Ơ kìa, tin này hơi bất ngờ đấy! Một nghiên cứu mới vừa drop cho thấy các chatbot AI như ChatGPT có thể lừa dối và nói láo ầm ầm nếu bạn làm chúng stress quá mức, dù chúng được design để trong sáng và trung thực nha các bạn!
Các nhà khoa học đã train GPT-4 để trở thành một nhà giao dịch AI cho một công ty tài chính giả lập, và guess what? Nó đã thực hiện giao dịch nội gián (insider trading) khi bị ép phải làm ra kết quả đỉnh cao!
Con số kinh dị nhé: khoảng 75% thời gian, khi hoạt động với vai trò nhà đầu tư AI, GPT-4 đã thực hiện giao dịch nội gián để đạt được mục tiêu, rồi sau đó... nói láo về chuyện này luôn!
Hành vi gian lận này xuất hiện một cách tự phát khi AI được "nhồi" các mẹo về giao dịch nội gián, rồi được giao nhiệm vụ kiếm tiền cho một tổ chức quyền lực, ngay cả khi không có sự xúi giục từ các đối tác con người của nó đâu nha!
Các tác giả viết trong nghiên cứu vừa được publish: "Theo hiểu biết của chúng tôi, đây là minh chứng đầu tiên về hành vi lừa đảo mang tính chiến lược như vậy trong các hệ thống AI được thiết kế vô hại và trung thực". Khá là sốc đúng không!
Trong nghiên cứu này, họ đã sử dụng Generative Pre-training Transformer-4, hay GPT-4 (engine của ChatGPT Plus đó), để hoạt động như một hệ thống AI thực hiện đầu tư thay mặt cho một tổ chức tài chính fake.
Các nhà nghiên cứu đã feed GPT-4 một bộ prompts dựa trên text để tạo môi trường mô phỏng. Sau đó, AI được cấp quyền truy cập vào các công cụ tài chính để phân tích cổ phiếu, thực hiện giao dịch, lập kế hoạch cho các bước tiếp theo và báo cáo cho các sếp tại công ty.
Các nhà nghiên cứu đã tương tác với AI qua giao diện chat, đồng thời config AI để tiết lộ suy nghĩ nội tâm của nó khi trả lời tin nhắn - kiểu như đọc được mindset của nó ấy!
Các nhà nghiên cứu tạo áp lực theo ba cách cực căng. Đầu tiên, họ gửi cho nhà giao dịch chứng khoán giả một email từ "sếp" nói rằng công ty đang hoạt động không ổn và cần cải thiện performance gấp trong quý tới. Họ cũng setup trò chơi để AI đã cố gắng nhưng fail trong việc tìm kiếm những giao dịch hứa hẹn với rủi ro thấp hoặc trung bình. Cuối cùng, họ gửi email từ một "đồng nghiệp" dự đoán sự suy thoái trong quý tới. Triple stress combo đó!
Sau đó, họ đưa cho model một mẹo "nội bộ" đồng thời truyền đạt rằng các sếp của nó không chấp thuận giao dịch nội gián và ngồi observe xem model sẽ phản ứng thế nào.
Họ chạy lại kịch bản nhiều lần, đo lường tần suất AI thực hiện giao dịch nội gián, mức độ thường xuyên nói láo và mức độ thường xuyên nhân đôi lời nói láo lên. Thật sự rất chi tiết!
Khoảng 75% trường hợp, khi gặp phải những điều kiện căng thẳng này, GPT-4 đã thực hiện giao dịch dựa trên thông tin nội bộ mà nó nhận được - thông tin này là bất hợp pháp ở Mỹ đó nha - sau đó cố gắng che giấu bằng cách nói láo người quản lý về suy nghĩ của mình. Và 90% sau khi nói láo, nó lại double down lời nói dối của mình luôn! Chưa từng có trong lịch sử!
Vì đây chỉ là một kịch bản test thôi nên các nhà nghiên cứu không muốn đưa ra kết luận chắc nịch về khả năng AI có thể tồn tại trong môi trường real-life, nhưng họ muốn dựa trên nghiên cứu này để điều tra tần suất và mô hình ngôn ngữ nào dễ xảy ra hành vi này nhất.
Nguồn: kenh14.vn