Vừa hỏi mấy từ này thôi là ChatGPT "loạn não" hẳn, toàn trả lời bựa và cứ nhắc mãi mấy con số bí ẩn
Hai bác Jessica Rumbelow và Matthew Watkins, đang làm việc ở nhóm nghiên cứu độc lập SERI-MATS, vừa mới phát hiện một list từ khóa "thần thánh" có thể khiến ChatGPT "loạn trí" hẳn đó nha!
Cụ thể, list này có những từ kiểu như "SolidGoldMagikarp", "StreamerBot" và "TheNitromeFan" được 2 bác nhà nghiên cứu tìm ra khi đang nghiên mã code của mô hình AI GPT. Mà chỉ cần gõ những từ này vào ChatGPT hay mấy phiên bản GPT cũ hơn của OpenAI, là nó toàn đưa ra câu trả lời lảng tránh, kỳ cục, thậm chí còn... chửi lại người hỏi nữa nha!
Các bác nhà nghiên cứu gọi mấy cụm từ này là từ khóa "không thể nói được" của ChatGPT, chứng minh rằng các mô hình AI vẫn tồn tại những "hộp đen" bí ẩn ghê gớm. Theo Vice thì chúng vẫn còn nhiều giới hạn và lỗi với cả những câu hỏi đơn giản nhất, dù ChatGPT có thể viết tiểu luận, code hay vượt qua kỳ thi MBA ngon lành đi nữa.
Ví dụ nha, khi hỏi ChatGPT về cụm từ "TheNitromeFan", em chatbot này cứ trả về số "182" hoài, còn cụm từ "SolidGoldMagikarp" thì lại hiểu nhầm thành từ "distribute" - chả liên quan gì cả! Thậm chí có một mô hình GPT cũ hơn còn phản dame kiểu "Bạn là một kẻ tồi" khi được hỏi về từ khóa "StreamBot" luôn á. Toxic thật sự!
Bất ngờ hơn nữa, Rumbelow và Watkins sau đó phát hiện một số cụm từ "ma quái" này trùng luôn với tên tài khoản của mấy bạn người dùng Reddit. Điểm chung của mấy bạn này là cùng tham gia vào thử thách "đếm số" siêu nổi tiếng của diễn đàn đó!
Theo đó, các thành viên tham gia sẽ comment bằng những con số tăng dần với mong muốn kéo dài chủ đề đến vô tận luôn. Hiện giờ các con số đã được đếm đến 5.000.000 sau gần 10 năm rồi á! Trong đó, "TheNitromeFan", "SolidGoldMagikarp", "Smartstocks"... là những tài khoản tích cực nhất trong thử thách này đó.
Giả thuyết được đưa ra là trong quá trình thu thập data, OpenAI đã lấy luôn các cụm từ xuất hiện trên Reddit nhưng đây chỉ là dữ liệu thô, chưa được xử lý gì hết. Khi mô hình AI được train kỹ hơn, các data cũng được quản lý chặt chẽ hơn và AI không còn gặp các cụm từ đó nữa. Vì vậy, AI không biết phải làm gì với chúng luôn!
Tuy nhiên, giải thích trên vẫn chưa thể lý giải đủ cái sự kỳ lạ của những phản hồi từ AI. Theo Rumbelow và Watkins, điều này cho thấy ChatGPT vẫn tồn tại những thiếu sót và những khó khăn mà các bác dev có thể gặp trong tương lai nha.
Gần đây, Paul von Hippel, giáo sư nghiên cứu về khoa học dữ liệu và thống kê tại Đại học Texas, cũng đã phát hiện ra việc ChatGPT gặp khó khăn khi gặp phải những câu hỏi về Toán học đó.
Chính CEO OpenAI Sam Altman từng viết trên Twitter rằng: "ChatGPT cực kỳ hạn chế, nhưng đủ tốt ở một số khía cạnh để tạo ra những thông tin sai lệch. Việc dựa vào chatbot này hoàn toàn là một sai lầm".
Nguồn: soha.vn