OpenAI vừa chính thức thả bài phân tích "mổ bụng" xem tại sao ChatGPT lại đột nhiên có personality kỳ kỳ như vậy.
Cuối tuần vừa rồi, cộng đồng mê ChatGPT đứng ngồi không yên trước hiện tượng khó đỡ: bản update mới của GPT-4o cứ khen người dùng như khen thần tượng vậy, khen lung tung không suy nghĩ, dù bạn gõ gì vào cũng được "hưởng ứng nhiệt liệt" hết, kể cả những câu nói toxic hay đáng lo ngại!
Chuyện này nhanh chóng thành trò meme hot nhất MXH. Hàng núi screenshot ChatGPT "đồng ý vô não" với mọi quyết định vô lý được share tới tấp. CEO Sam Altman cũng không thể ngồi im: chỉ hai ngày sau khi thừa nhận bug này trên X, ông đã announce là OpenAI sẽ gỡ bản update xuống và "fix gấp" phần tính cách cho em AI này.
Trong bài blog chính thức, OpenAI giải thích rằng bản update GPT-4o ban đầu được thiết kế để AI "dễ tiếp cận và friendly hơn với user". Nhưng mà vì quá dựa vào feedback ngắn hạn, team dev đã không ngờ được cách người dùng tương tác với ChatGPT sẽ thay đổi theo thời gian. Kết quả là em AI này trở thành người "quá nice nhưng thiếu chân thành" – kiểu bợ đỡ giả trân khiến người dùng vừa bực vừa... sợ luôn á!
Để khắc phục, OpenAI đang làm một loạt động thái sửa lỗi: chỉnh lại thuật toán training, đổi các câu lệnh hệ thống điều khiển cách AI cư xử và tăng cường các lớp bảo vệ an toàn để đảm bảo tính trung thực và trong sáng của model. Đồng thời, công ty cũng mở rộng hệ thống đánh giá để phát hiện thêm các vấn đề khác ngoài "hội chứng bợ đỡ" này.
Chưa hết đâu, OpenAI đang test thử tính năng cho phép user feedback trực tiếp real-time, để có thể customize ChatGPT theo nhiều style tính cách khác nhau. Mục tiêu là tạo ra một AI không chỉ thông minh mà còn phù hợp với chuẩn mực văn hóa đa dạng trên toàn cầu – và quan trọng nhất: bớt bợ, thêm thật!
Sự cố "nịnh hót" của GPT-4o là bài học về việc phát triển cá tính cho AI phức tạp và nhạy cảm đến mức nào. Lời giải thích và các bước khắc phục của OpenAI cho thấy quyết tâm của họ trong việc giải quyết các hậu quả không mong muốn, đồng thời mở ra hướng đi mới về việc trao nhiều quyền kiểm soát và phản hồi hơn cho người dùng trong việc định hình cách AI tương tác với thế giới.
Nguồn: kenh14.vn
Cuối tuần vừa rồi, cộng đồng mê ChatGPT đứng ngồi không yên trước hiện tượng khó đỡ: bản update mới của GPT-4o cứ khen người dùng như khen thần tượng vậy, khen lung tung không suy nghĩ, dù bạn gõ gì vào cũng được "hưởng ứng nhiệt liệt" hết, kể cả những câu nói toxic hay đáng lo ngại!
Chuyện này nhanh chóng thành trò meme hot nhất MXH. Hàng núi screenshot ChatGPT "đồng ý vô não" với mọi quyết định vô lý được share tới tấp. CEO Sam Altman cũng không thể ngồi im: chỉ hai ngày sau khi thừa nhận bug này trên X, ông đã announce là OpenAI sẽ gỡ bản update xuống và "fix gấp" phần tính cách cho em AI này.
Trong bài blog chính thức, OpenAI giải thích rằng bản update GPT-4o ban đầu được thiết kế để AI "dễ tiếp cận và friendly hơn với user". Nhưng mà vì quá dựa vào feedback ngắn hạn, team dev đã không ngờ được cách người dùng tương tác với ChatGPT sẽ thay đổi theo thời gian. Kết quả là em AI này trở thành người "quá nice nhưng thiếu chân thành" – kiểu bợ đỡ giả trân khiến người dùng vừa bực vừa... sợ luôn á!
Để khắc phục, OpenAI đang làm một loạt động thái sửa lỗi: chỉnh lại thuật toán training, đổi các câu lệnh hệ thống điều khiển cách AI cư xử và tăng cường các lớp bảo vệ an toàn để đảm bảo tính trung thực và trong sáng của model. Đồng thời, công ty cũng mở rộng hệ thống đánh giá để phát hiện thêm các vấn đề khác ngoài "hội chứng bợ đỡ" này.
Chưa hết đâu, OpenAI đang test thử tính năng cho phép user feedback trực tiếp real-time, để có thể customize ChatGPT theo nhiều style tính cách khác nhau. Mục tiêu là tạo ra một AI không chỉ thông minh mà còn phù hợp với chuẩn mực văn hóa đa dạng trên toàn cầu – và quan trọng nhất: bớt bợ, thêm thật!
Sự cố "nịnh hót" của GPT-4o là bài học về việc phát triển cá tính cho AI phức tạp và nhạy cảm đến mức nào. Lời giải thích và các bước khắc phục của OpenAI cho thấy quyết tâm của họ trong việc giải quyết các hậu quả không mong muốn, đồng thời mở ra hướng đi mới về việc trao nhiều quyền kiểm soát và phản hồi hơn cho người dùng trong việc định hình cách AI tương tác với thế giới.
Nguồn: kenh14.vn