Một giáo viên thể dục ở bang Maryland bị bắt với cáo buộc dùng AI giả giọng hiệu trưởng, khiến ông bị nghi phân biệt chủng tộc với học sinh.
Dazhon Darien, giáo viên thể dục 31 tuổi ở trường trung học Pikesville, bị cảnh sát bắt hôm 25/4 với cáo buộc trộm cắp, gây gián đoạn hoạt động trường học và trả đũa nhân chứng. Đây là kết quả từ cuộc điều tra kéo dài nhiều tháng của Sở cảnh sát hạt Baltimore.
Các nhà điều tra cho biết âm mưu của Darien bắt đầu vào tháng 1 với mục tiêu trả thù hiệu trưởng Eric Eiswert. Hai người xảy ra bất đồng xoay quanh "những vấn đề trong hiệu suất làm việc của Darien". Hiệu trưởng cuối năm ngoái cũng điều tra Darien với nghi vấn sử dụng 1.916 USD ngân sách của trường sai mục đích. Khoản tiền được trả để thuê trợ lý huấn luyện viên đội bóng nữ của trường nhưng người này chưa bao giờ đến làm việc.
Sau đó, một bản ghi âm xuất hiện trên mạng ngày 17/1, trong đó giọng nói như của hiệu trưởng Eiswert đang đưa ra lời nhận xét phân biệt chủng tộc nhằm vào giáo viên và học sinh trong trường.
"Bản ghi âm dẫn tới cuộc điều tra. Nó đã để lại những hậu quả rất nghiêm trọng. Nó không chỉ khiến hiệu trưởng Eiswert bị đình chỉ công tác, mà còn dẫn tới làn sóng thù ghét trên mạng xã hội và nhiều cuộc gọi phản đối đến trường học. Bản ghi âm cũng gây gián đoạn công việc của giáo viên và học sinh", cáo trạng được công bố sau vụ bắt có đoạn.
Billy Burke, lãnh đạo công đoàn trường Pikesville, cho biết gia đình hiệu trưởng Eiswert đã bị quấy rối và đe dọa sau sự việc. Cảnh sát trưởng Baltimore Robert McCullough cho biết các nhà điều tra kết luận đây là bản ghi âm giả. "Nó được tạo ra nhờ công nghệ AI", ông nói với các phóng viên.
Darien bị bắt khi đang định lên chuyến bay tới Houston và đang được tại ngoại, dự kiến ra tòa ngày 11/6.
Giới chuyên gia đánh giá sự việc đã cho thấy mối nguy hiểm khi tội phạm lạm dụng công nghệ AI, khi bất kỳ ai cũng có thể tạo deepfake hình ảnh và giọng nói giả mạo chỉ với vài USD. Nguy cơ hiện nay rất lớn, trong khi phần mềm phát hiện deepfake không phải lúc nào cũng hoạt động chính xác.
"Nạn nhân ở đây là một hiệu trưởng, người đang sinh sống bình thường, không phải Taylor Swift, Tổng thống Joe Biden hay Elon Musk. Nó cho thấy những lỗ hổng nghiêm trọng khi ai cũng có thể tạo nội dung giả mạo và biến nó thành vũ khí chống lại người khác", Hany Farid, giáo sư Đại học California tại Berkeley, người hỗ trợ cảnh sát phân tích bản ghi âm, cảnh báo.
Điệp Anh (theo NPR)
Đọc bài gốc tại đây.