GấuChúpChíp
New member
Bạn có biết AI đôi khi "nói láo" trơ trẽn không?
AI ảo giác (AI hallucination) là hiện tượng AI bịa đặt câu trả lời sai be sai bét, nhưng lại nói với giọng điệu cực kỳ tự tin. Kiểu bạn hỏi tác giả của một cuốn sách… không hề tồn tại, mà AI vẫn trả lời vanh vách: tác giả là ai, xuất bản năm nào, nội dung thế nào. Nghe xong tưởng chuẩn không cần chỉnh, nhưng thật ra toàn bịa cả đấy!
Vậy tại sao AI không chịu nói "tui không biết" cho xong?
Lý do nằm ở cách AI hoạt động nè: các mô hình ngôn ngữ lớn không thực sự "hiểu" nội dung như con người mình đâu. Chúng được train trên núi data khổng lồ và học cách dự đoán: trong ngữ cảnh này, từ nào hoặc câu nào có khả năng xuất hiện tiếp theo?
Vì thế, AI cực giỏi tạo ra câu trả lời nghe có vẻ hợp lý, nhưng không có nghĩa là chính xác nha! Một câu trả lời có thể đúng vì nó khớp với data đáng tin cậy mà AI từng học, nhưng cũng có thể sai vì AI ghép các mảnh thông tin lại theo cách nghe logic nhưng thực tế… sai bét!
Điều nguy hiểm là AI thường viết cực kỳ mạch lạc. Người đọc, đặc biệt ai không rành tech, dễ nghĩ: "Nó nói tự tin thế này thì chắc đúng rồi." Nhưng thực ra độ tự tin trong văn phong của AI ≠ độ chính xác nha!
Bạn sẽ hỏi: sao không bắt AI nói "tui không biết" khi không biết cho xong? Nhưng chuyện không đơn giản vậy đâu!
Trước tiên, AI không thực sự "biết rằng mình không biết" đâu. Nó không có cảm giác nghi ngờ như con người. Khi nhận câu hỏi, nhiệm vụ chính của nó là tạo ra câu trả lời có vẻ phù hợp với ngữ cảnh. Nếu trong data training, những câu trả lời dài, đầy đủ, tự tin thường được đánh giá cao hơn, thì AI sẽ có xu hướng tạo ra kiểu câu trả lời đó.
Bạn có thể so sánh với bài kiểm tra trắc nghiệm: trả lời đúng được điểm, trả lời sai không bị trừ điểm, còn bỏ trống cũng không được điểm → cách có lợi nhất là cứ đoán bừa đáp án. Đoán sai không mất gì, nhưng biết đâu đoán đúng lại được điểm. Thuật toán của AI cũng thường bị khuyến khích theo hướng đó: đưa ra câu trả lời nghe có ích > im lặng hoặc nói "tôi không biết".
Ngoài ra, người dùng cũng thường không thích câu trả lời "tôi không biết" lắm. Nếu AI cứ nói "tôi không biết" hoài, nhiều người sẽ thấy nó vô dụng. Vì thế, trong quá trình phát triển, các mô hình thường được tối ưu để cố gắng trả lời nhiều nhất có thể. Điều này làm AI hữu ích hơn trong nhiều tình huống, nhưng cũng khiến nó dễ bịa hơn khi thiếu thông tin.
Nói cách khác, AI không bịa vì nó muốn lừa bạn đâu. Nó bịa vì cơ chế của nó là tạo ra câu trả lời có xác suất nghe đúng cao nhất, chứ không phải lúc nào cũng kiểm chứng được sự thật. 
AI đã chính xác hơn rồi, nhưng mình vẫn phải biết cách hỏi cho đúng!
Hiện giờ, nhiều mô hình AI đã được cải thiện đáng kể rồi đó. Chúng có thể tra cứu thông tin tốt hơn, biết nói thận trọng hơn, và trong một số trường hợp có thể nêu nguồn hoặc cảnh báo khi data không chắc chắn. Tuy nhiên, hiện tượng ảo giác vẫn chưa biến mất hoàn toàn nha!
Vì vậy, khi dùng AI, đặc biệt với các chủ đề quan trọng như sức khỏe, pháp luật, tài chính, học thuật, tin tức hoặc số liệu, bạn nên thêm vào prompt (lời chỉ dẫn cho AI) những câu giúp AI thận trọng hơn. Ví dụ:
"Nếu bạn không chắc chắn, hãy nói rõ là không chắc chắn, đừng đoán."
"Chỉ trả lời dựa trên thông tin có căn cứ. Nếu thiếu data, hãy nói 'tôi không có đủ thông tin'."
"Hãy nói rõ phần nào là sự thật đã được xác minh, phần nào là suy luận hoặc phỏng đoán."
"Nếu câu hỏi của tôi chưa đủ rõ, hãy hỏi lại trước khi trả lời."
"Hãy đưa ra nguồn hoặc cách kiểm chứng cho các thông tin quan trọng."
"Đừng trả lời quá tự tin nếu data có thể sai hoặc đã lỗi thời (đi kèm khoảng thời gian cụ thể cho câu trả lời được xem là đáng tin cậy, ví dụ 6 tháng trở lại đây)."
Tóm lại, hãy xem AI như một trợ lý thông minh nhưng không hoàn hảo nha! Nó có thể giúp bạn giải thích, tóm tắt, gợi ý và viết lách rất ngon. Nhưng với những thông tin cần độ chính xác cao, bạn vẫn nên double check lại cho chắc cú!
Nguồn: kenh14.vn
AI ảo giác (AI hallucination) là hiện tượng AI bịa đặt câu trả lời sai be sai bét, nhưng lại nói với giọng điệu cực kỳ tự tin. Kiểu bạn hỏi tác giả của một cuốn sách… không hề tồn tại, mà AI vẫn trả lời vanh vách: tác giả là ai, xuất bản năm nào, nội dung thế nào. Nghe xong tưởng chuẩn không cần chỉnh, nhưng thật ra toàn bịa cả đấy!
Vậy tại sao AI không chịu nói "tui không biết" cho xong?
Lý do nằm ở cách AI hoạt động nè: các mô hình ngôn ngữ lớn không thực sự "hiểu" nội dung như con người mình đâu. Chúng được train trên núi data khổng lồ và học cách dự đoán: trong ngữ cảnh này, từ nào hoặc câu nào có khả năng xuất hiện tiếp theo?
Vì thế, AI cực giỏi tạo ra câu trả lời nghe có vẻ hợp lý, nhưng không có nghĩa là chính xác nha! Một câu trả lời có thể đúng vì nó khớp với data đáng tin cậy mà AI từng học, nhưng cũng có thể sai vì AI ghép các mảnh thông tin lại theo cách nghe logic nhưng thực tế… sai bét!
Điều nguy hiểm là AI thường viết cực kỳ mạch lạc. Người đọc, đặc biệt ai không rành tech, dễ nghĩ: "Nó nói tự tin thế này thì chắc đúng rồi." Nhưng thực ra độ tự tin trong văn phong của AI ≠ độ chính xác nha!
Bạn sẽ hỏi: sao không bắt AI nói "tui không biết" khi không biết cho xong? Nhưng chuyện không đơn giản vậy đâu!
Trước tiên, AI không thực sự "biết rằng mình không biết" đâu. Nó không có cảm giác nghi ngờ như con người. Khi nhận câu hỏi, nhiệm vụ chính của nó là tạo ra câu trả lời có vẻ phù hợp với ngữ cảnh. Nếu trong data training, những câu trả lời dài, đầy đủ, tự tin thường được đánh giá cao hơn, thì AI sẽ có xu hướng tạo ra kiểu câu trả lời đó.
Bạn có thể so sánh với bài kiểm tra trắc nghiệm: trả lời đúng được điểm, trả lời sai không bị trừ điểm, còn bỏ trống cũng không được điểm → cách có lợi nhất là cứ đoán bừa đáp án. Đoán sai không mất gì, nhưng biết đâu đoán đúng lại được điểm. Thuật toán của AI cũng thường bị khuyến khích theo hướng đó: đưa ra câu trả lời nghe có ích > im lặng hoặc nói "tôi không biết".
Ngoài ra, người dùng cũng thường không thích câu trả lời "tôi không biết" lắm. Nếu AI cứ nói "tôi không biết" hoài, nhiều người sẽ thấy nó vô dụng. Vì thế, trong quá trình phát triển, các mô hình thường được tối ưu để cố gắng trả lời nhiều nhất có thể. Điều này làm AI hữu ích hơn trong nhiều tình huống, nhưng cũng khiến nó dễ bịa hơn khi thiếu thông tin.
Nói cách khác, AI không bịa vì nó muốn lừa bạn đâu. Nó bịa vì cơ chế của nó là tạo ra câu trả lời có xác suất nghe đúng cao nhất, chứ không phải lúc nào cũng kiểm chứng được sự thật.
AI đã chính xác hơn rồi, nhưng mình vẫn phải biết cách hỏi cho đúng!
Hiện giờ, nhiều mô hình AI đã được cải thiện đáng kể rồi đó. Chúng có thể tra cứu thông tin tốt hơn, biết nói thận trọng hơn, và trong một số trường hợp có thể nêu nguồn hoặc cảnh báo khi data không chắc chắn. Tuy nhiên, hiện tượng ảo giác vẫn chưa biến mất hoàn toàn nha!
Vì vậy, khi dùng AI, đặc biệt với các chủ đề quan trọng như sức khỏe, pháp luật, tài chính, học thuật, tin tức hoặc số liệu, bạn nên thêm vào prompt (lời chỉ dẫn cho AI) những câu giúp AI thận trọng hơn. Ví dụ:
"Nếu bạn không chắc chắn, hãy nói rõ là không chắc chắn, đừng đoán."
"Chỉ trả lời dựa trên thông tin có căn cứ. Nếu thiếu data, hãy nói 'tôi không có đủ thông tin'."
"Hãy nói rõ phần nào là sự thật đã được xác minh, phần nào là suy luận hoặc phỏng đoán."
"Nếu câu hỏi của tôi chưa đủ rõ, hãy hỏi lại trước khi trả lời."
"Hãy đưa ra nguồn hoặc cách kiểm chứng cho các thông tin quan trọng."
"Đừng trả lời quá tự tin nếu data có thể sai hoặc đã lỗi thời (đi kèm khoảng thời gian cụ thể cho câu trả lời được xem là đáng tin cậy, ví dụ 6 tháng trở lại đây)."
Tóm lại, hãy xem AI như một trợ lý thông minh nhưng không hoàn hảo nha! Nó có thể giúp bạn giải thích, tóm tắt, gợi ý và viết lách rất ngon. Nhưng với những thông tin cần độ chính xác cao, bạn vẫn nên double check lại cho chắc cú!
Nguồn: kenh14.vn