OpenAI vừa bổ sung tính năng “Liên hệ tin cậy” cho ChatGPT, cho phép người dùng chỉ định một người thân hoặc bạn bè để công ty cảnh báo nếu phát hiện nguy hiểm.
OpenAI vừa bổ sung tính năng “liên hệ tin cậy” cho ChatGPT, cho phép người dùng chỉ định một người thân hoặc bạn bè để công ty cảnh báo nếu phát hiện nguy hiểm.
OpenAI cho phép người dùng chỉ định một “liên hệ tin cậy” để công ty có thể cảnh báo khi phát hiện dấu hiệu tự làm hại bản thân trong các cuộc trò chuyện với ChatGPT.
Động thái này xuất hiện trong bối cảnh ngày càng nhiều người sử dụng ChatGPT như một “nhà trị liệu số” để chia sẻ các vấn đề tâm lý.
Theo cơ chế mới, người dùng từ 18 tuổi trở lên có thể thêm một liên hệ tin cậy trong phần cài đặt ChatGPT. Người được chỉ định sẽ nhận lời mời và phải chấp nhận trong vòng một tuần. Nếu không phản hồi, người dùng có thể thay đổi sang liên hệ khác.
OpenAI cho biết quy trình này không hoàn toàn tự động. Một nhóm nhân sự được đào tạo chuyên biệt sẽ xem xét từng trường hợp trước khi gửi cảnh báo. Nếu đánh giá có nguy cơ cao, công ty có thể gửi email, tin nhắn hoặc thông báo trong ứng dụng cho người liên hệ tin cậy.
Tính năng mới cho thấy áp lực ngày càng lớn đối với các nền tảng trí tuệ nhân tạo trong việc bảo đảm an toàn cho người dùng, đặc biệt khi nhiều người đang xem chatbot như nơi chia sẻ các vấn đề tâm lý cá nhân.
Tuy nhiên, việc cân bằng giữa hỗ trợ người dùng gặp khủng hoảng và bảo vệ quyền riêng tư vẫn là bài toán lớn đối với OpenAI cũng như ngành công nghệ nói chung.
Đọc bài gốc tại đây.