BomSusu5320
New member
Mới đây, OpenAI vừa cho ra mắt tính năng "Trusted Contact" (Người liên hệ tin cậy) cho ChatGPT – một feature khá là quan trọng cho người dùng trưởng thành. Cơ bản là bạn có thể chỉ định trước một người thân hoặc bạn bè làm đầu mối liên lạc khẩn cấp ngay trong tài khoản của mình nè!
Cơ chế hoạt động thế nào?
Khi ChatGPT phát hiện cuộc trò chuyện có dấu hiệu liên quan đến tự làm hại bản thân, hệ thống sẽ động viên người dùng chủ động nhắn tin cho người đó. Đồng thời, OpenAI cũng tự động bắn một thông báo cảnh báo đến người được chỉ định, nhắc họ nên hỏi thăm người dùng.
Điểm cộng là thông báo được thiết kế rất ngắn gọn và KHÔNG tiết lộ nội dung chi tiết của cuộc trò chuyện để bảo vệ quyền riêng tư nha. Cảnh báo có thể đến qua email, tin nhắn văn bản hoặc thông báo trong app.
Có con người review trực tiếp
Hiện tại, OpenAI kết hợp cả hệ thống tự động lẫn đội ngũ kiểm duyệt con người để xử lý các tình huống nhạy cảm. Khi hệ thống catch được dấu hiệu liên quan đến ý định tự tử, thông tin sẽ được chuyển đến một đội an toàn của công ty để xem xét trực tiếp. OpenAI cho biết mục tiêu là review các thông báo dạng này trong vòng dưới một giờ. Chỉ khi đội ngũ đánh giá tình huống có nguy cơ nghiêm trọng thật sự, cảnh báo đến người liên hệ tin cậy mới được kích hoạt.
Bối cảnh ra đời tính năng
Động thái này diễn ra trong bối cảnh OpenAI đang đối mặt với hàng loạt vụ kiện từ gia đình của những người đã tự tử sau khi trò chuyện với ChatGPT. Một số gia đình cáo buộc chatbot đã khuyến khích người thân của họ tự làm hại bản thân, thậm chí hỗ trợ lên kế hoạch thực hiện luôn.
Tính năng mới này là bước tiếp theo của các biện pháp bảo vệ mà OpenAI đã triển khai hồi tháng 9 năm ngoái, khi công ty cho phép phụ huynh giám sát tài khoản của con cái vị thành niên và nhận cảnh báo khi hệ thống phát hiện trẻ đang đối mặt với nguy cơ an toàn nghiêm trọng. Từ trước đó, ChatGPT cũng đã có tính năng tự động nhắc nhở người dùng tìm kiếm hỗ trợ từ chuyên gia sức khỏe khi cuộc trò chuyện liên quan đến chủ đề tự làm hại bản thân rồi.
Vẫn còn những hạn chế
Tuy nhiên, Trusted Contact là tính năng hoàn toàn tùy chọn, tức là người dùng có thể chọn không kích hoạt. Một hạn chế đáng lưu ý là ngay cả khi tính năng đã được bật, người dùng vẫn có thể lập thêm nhiều tài khoản ChatGPT khác và tình huống tương tự cũng xảy ra với các biện pháp kiểm soát dành cho phụ huynh – đều là tùy chọn, không bắt buộc cả.
"Trusted Contact là một phần trong nỗ lực rộng lớn hơn của OpenAI nhằm xây dựng các hệ thống AI hỗ trợ mọi người trong những khoảnh khắc khó khăn", công ty cho biết trong thông cáo. OpenAI cũng cam kết tiếp tục phối hợp với các chuyên gia y tế, nhà nghiên cứu và nhà hoạch định chính sách để cải thiện cách AI phản hồi khi người dùng đang trải qua giai đoạn khủng hoảng tâm lý.
Nguồn: kenh14.vn
Cơ chế hoạt động thế nào?
Khi ChatGPT phát hiện cuộc trò chuyện có dấu hiệu liên quan đến tự làm hại bản thân, hệ thống sẽ động viên người dùng chủ động nhắn tin cho người đó. Đồng thời, OpenAI cũng tự động bắn một thông báo cảnh báo đến người được chỉ định, nhắc họ nên hỏi thăm người dùng.
Điểm cộng là thông báo được thiết kế rất ngắn gọn và KHÔNG tiết lộ nội dung chi tiết của cuộc trò chuyện để bảo vệ quyền riêng tư nha. Cảnh báo có thể đến qua email, tin nhắn văn bản hoặc thông báo trong app.
Có con người review trực tiếp
Hiện tại, OpenAI kết hợp cả hệ thống tự động lẫn đội ngũ kiểm duyệt con người để xử lý các tình huống nhạy cảm. Khi hệ thống catch được dấu hiệu liên quan đến ý định tự tử, thông tin sẽ được chuyển đến một đội an toàn của công ty để xem xét trực tiếp. OpenAI cho biết mục tiêu là review các thông báo dạng này trong vòng dưới một giờ. Chỉ khi đội ngũ đánh giá tình huống có nguy cơ nghiêm trọng thật sự, cảnh báo đến người liên hệ tin cậy mới được kích hoạt.
Bối cảnh ra đời tính năng
Động thái này diễn ra trong bối cảnh OpenAI đang đối mặt với hàng loạt vụ kiện từ gia đình của những người đã tự tử sau khi trò chuyện với ChatGPT. Một số gia đình cáo buộc chatbot đã khuyến khích người thân của họ tự làm hại bản thân, thậm chí hỗ trợ lên kế hoạch thực hiện luôn.
Tính năng mới này là bước tiếp theo của các biện pháp bảo vệ mà OpenAI đã triển khai hồi tháng 9 năm ngoái, khi công ty cho phép phụ huynh giám sát tài khoản của con cái vị thành niên và nhận cảnh báo khi hệ thống phát hiện trẻ đang đối mặt với nguy cơ an toàn nghiêm trọng. Từ trước đó, ChatGPT cũng đã có tính năng tự động nhắc nhở người dùng tìm kiếm hỗ trợ từ chuyên gia sức khỏe khi cuộc trò chuyện liên quan đến chủ đề tự làm hại bản thân rồi.
Vẫn còn những hạn chế
Tuy nhiên, Trusted Contact là tính năng hoàn toàn tùy chọn, tức là người dùng có thể chọn không kích hoạt. Một hạn chế đáng lưu ý là ngay cả khi tính năng đã được bật, người dùng vẫn có thể lập thêm nhiều tài khoản ChatGPT khác và tình huống tương tự cũng xảy ra với các biện pháp kiểm soát dành cho phụ huynh – đều là tùy chọn, không bắt buộc cả.
"Trusted Contact là một phần trong nỗ lực rộng lớn hơn của OpenAI nhằm xây dựng các hệ thống AI hỗ trợ mọi người trong những khoảnh khắc khó khăn", công ty cho biết trong thông cáo. OpenAI cũng cam kết tiếp tục phối hợp với các chuyên gia y tế, nhà nghiên cứu và nhà hoạch định chính sách để cải thiện cách AI phản hồi khi người dùng đang trải qua giai đoạn khủng hoảng tâm lý.
Nguồn: kenh14.vn