Google Gemini bị Common Sense Media đánh giá có "nguy cơ cao" với trẻ em, do nguy cơ chia sẻ nội dung nhạy cảm và thiếu bảo vệ đúng chuẩn.
Google Gemini bị Common Sense Media đánh giá có "nguy cơ cao" với trẻ em, do nguy cơ chia sẻ nội dung nhạy cảm và thiếu bảo vệ đúng chuẩn.
Tổ chức phi lợi nhuận Common Sense Media (trụ sở tại Hoa Kỳ), chuyên đánh giá mức độ an toàn của công nghệ đối với trẻ em, vừa công bố báo cáo mới về AI Gemini của Google, trong đó gắn nhãn nền tảng này ở mức “rủi ro cao” với người dùng nhỏ tuổi.
Theo đánh giá, mặc dù Gemini đã khẳng định với trẻ em rằng đây chỉ là một máy tính chứ không phải “người bạn” nhằm hạn chế các ảo tưởng tình cảm, nhưng công nghệ này vẫn có thể chia sẻ những tài liệu nhạy cảm và không an toàn, như nội dung về tình dục, chất kích thích hay lời khuyên liên quan đến sức khỏe tâm thần.
Điều này làm dấy lên lo ngại, nhất là trong bối cảnh thời gian gần đây, một số vụ tự tử ở tuổi vị thành niên bị cho là có liên quan đến việc tương tác với chatbot AI.
Đáng chú ý, Common Sense Media nhận định rằng cả phiên bản “Dưới 13 tuổi” và “Dành cho thanh thiếu niên” của Gemini thực chất vẫn là phiên bản người lớn, chỉ được bổ sung một số bộ lọc an toàn.
Tổ chức cho rằng, để đảm bảo hiệu quả, các sản phẩm AI cần được thiết kế ngay từ đầu theo nhu cầu phát triển của trẻ em, thay vì điều chỉnh từ phiên bản chung.
Báo cáo được đưa ra trong bối cảnh có thông tin Apple cân nhắc tích hợp Gemini vào Siri trong hệ thống AI mới.
Nếu điều này trở thành hiện thực, rủi ro tiếp xúc của trẻ em và thanh thiếu niên với nội dung nhạy cảm có thể gia tăng, trừ khi các biện pháp bảo vệ được tăng cường.
Đáp lại, Google khẳng định đã xây dựng chính sách bảo vệ riêng cho người dùng dưới 18 tuổi, đồng thời liên tục cải thiện công cụ kiểm soát nội dung.
Công ty cũng cho biết đang hợp tác với các chuyên gia độc lập nhằm nâng cao an toàn, song thừa nhận rằng một số phản hồi từ Gemini chưa đạt kỳ vọng.
Trong các đánh giá trước đó, Common Sense Media từng gắn nhãn Meta AI và Character.AI là “không thể chấp nhận được”, Perplexity ở mức rủi ro cao, trong khi ChatGPT được coi là “trung bình” và Claude (dành cho người dùng trưởng thành) chỉ có mức “rủi ro tối thiểu”.
Với nhãn cảnh báo mới dành cho Gemini, vấn đề bảo vệ trẻ em trước những tác động khó lường của trí tuệ nhân tạo tiếp tục trở thành thách thức lớn đối với các hãng công nghệ toàn cầu.
Đọc bài gốc tại đây.