Các bạn ơi, hóa ra AI cũng biết "nói phét" y chang con người luôn đó!
AI "ảo giác" là gì mà nghe kinh dị vậy?
AI hallucination (hay còn gọi là AI ảo giác) chính là hiện tượng AI bịa đặt thông tin một cách trơ trơ, nhưng lại nói với vẻ mặt "tao chắc lắm đó" Ví dụ nhé, bạn hỏi tên tác giả của một cuốn sách không tồn tại, AI vẫn có thể trả lời vanh vách: tác giả là ai, xuất bản năm nào, nội dung ra sao. Nghe xong kiểu "ơ hay đấy", nhưng plot twist là tất cả có thể là... fake 100% luôn á!
Tại sao AI không chịu nói "tui không biết" cho xong?
Lý do nằm ở cách hoạt động của nó: các mô hình ngôn ngữ lớn không thực sự "hiểu" nội dung giống như mình với bạn đâu. Chúng được train trên núi data khổng lồ và học cách dự đoán: trong ngữ cảnh này, từ nào hoặc câu nào có khả năng xuất hiện cao nhất tiếp theo?
Vì thế, AI rất pro trong việc tạo ra câu trả lời nghe hợp lý, nhưng "nghe hợp lý" ≠ "chính xác" nha! Một câu trả lời có thể đúng vì nó khớp với data đáng tin cậy mà AI từng học, nhưng cũng có thể sai vì AI ghép các mảnh thông tin lại theo cách có vẻ logic nhưng thực tế... sai bét!
Điều nguy hiểm nhất là AI viết văn rất mượt mà, mạch lạc. Người đọc, đặc biệt là những bạn không rành tech, dễ có cảm giác: "Nó nói chắc chắn thế này thì sure đúng rồi!" Nhưng nè, sự tự tin trong văn phong của AI không phải bằng chứng cho độ chính xác đâu nhé!
Có bạn sẽ hỏi: tại sao không bắt AI nếu không biết thì cứ nói "tui không biết" là xong? Nhưng chuyện không ez như vậy đâu các bro ơi!
Trước tiên, AI không thật sự "biết rằng mình không biết". Nó không có cảm giác hoang mang như người ta. Khi nhận được câu hỏi, nhiệm vụ chính của nó là tạo ra một câu trả lời có vẻ phù hợp với ngữ cảnh. Nếu trong data huấn luyện, những câu trả lời dài, đầy đủ, tự tin thường được đánh giá cao hơn, AI sẽ có xu hướng tạo ra kiểu câu trả lời như vậy.
Bạn có thể hình dung kiểu này: giống như một bài kiểm tra trắc nghiệm - trả lời đúng thì được điểm, trả lời sai không bị trừ điểm, còn bỏ trống cũng không được điểm. Vậy thì cách có lợi nhất là cứ chọn bừa đáp án thôi! Chọn sai thì cũng không mất gì, nhưng biết đâu may mắn chọn đúng lại được điểm Thuật toán của AI cũng thường bị khuyến khích theo hướng đó: đưa ra một câu trả lời nghe có ích thì tốt hơn là im lặng hoặc nói "tôi không biết".
Ngoài ra, người dùng cũng thường không thích câu trả lời "tôi không biết" lắm. Nếu AI cứ hay nói "tôi không biết", nhiều người sẽ thấy nó vô dụng quá trời. Vì thế, trong quá trình phát triển, các mô hình thường được tối ưu để cố gắng trả lời nhiều nhất có thể. Điều này làm AI hữu ích hơn trong nhiều tình huống, nhưng cũng khiến nó dễ bịa hơn khi thiếu thông tin
Nói cách khác, AI không bịa vì nó muốn lừa bạn. Nó bịa vì cơ chế của nó là tạo ra câu trả lời có xác suất nghe đúng cao nhất, chứ không phải lúc nào cũng kiểm chứng được sự thật.
AI giờ đã xịn hơn, nhưng vẫn phải biết cách hỏi để giảm "ảo giác"
Hiện giờ thì nhiều mô hình AI đã được improve đáng kể rồi đó. Chúng có thể tra cứu thông tin tốt hơn, biết nói thận trọng hơn, và trong một số trường hợp có thể nêu nguồn hoặc cảnh báo khi data không chắc chắn. Tuy nhiên, hiện tượng ảo giác vẫn chưa biến mất hoàn toàn nha!
Vì vậy, khi dùng AI, đặc biệt với các chủ đề quan trọng như sức khỏe, pháp luật, tài chính, học thuật, tin tức hoặc số liệu, bạn nên thêm vào prompt (lời chỉ dẫn cho AI) những câu giúp AI thận trọng hơn. Ví dụ:
• "Nếu bạn không chắc chắn, hãy nói rõ là không chắc chắn, đừng đoán."
• "Chỉ trả lời dựa trên thông tin có căn cứ. Nếu thiếu dữ liệu, hãy nói 'tôi không có đủ thông tin'."
• "Hãy nêu rõ phần nào là sự thật đã được xác minh, phần nào là suy luận hoặc phỏng đoán."
• "Nếu câu hỏi của tôi chưa đủ rõ, hãy hỏi lại trước khi trả lời."
• "Hãy đưa ra nguồn hoặc cách kiểm chứng cho các thông tin quan trọng."
• "Đừng trả lời quá tự tin nếu dữ liệu có thể sai hoặc đã lỗi thời (đi kèm khoảng thời gian cụ thể cho câu trả lời được xem là đáng tin cậy, ví dụ 6 tháng trở lại đây)."
Kết luận:
Nguồn: soha.vn
AI "ảo giác" là gì mà nghe kinh dị vậy?
AI hallucination (hay còn gọi là AI ảo giác) chính là hiện tượng AI bịa đặt thông tin một cách trơ trơ, nhưng lại nói với vẻ mặt "tao chắc lắm đó" Ví dụ nhé, bạn hỏi tên tác giả của một cuốn sách không tồn tại, AI vẫn có thể trả lời vanh vách: tác giả là ai, xuất bản năm nào, nội dung ra sao. Nghe xong kiểu "ơ hay đấy", nhưng plot twist là tất cả có thể là... fake 100% luôn á!
Tại sao AI không chịu nói "tui không biết" cho xong?
Lý do nằm ở cách hoạt động của nó: các mô hình ngôn ngữ lớn không thực sự "hiểu" nội dung giống như mình với bạn đâu. Chúng được train trên núi data khổng lồ và học cách dự đoán: trong ngữ cảnh này, từ nào hoặc câu nào có khả năng xuất hiện cao nhất tiếp theo?
Vì thế, AI rất pro trong việc tạo ra câu trả lời nghe hợp lý, nhưng "nghe hợp lý" ≠ "chính xác" nha! Một câu trả lời có thể đúng vì nó khớp với data đáng tin cậy mà AI từng học, nhưng cũng có thể sai vì AI ghép các mảnh thông tin lại theo cách có vẻ logic nhưng thực tế... sai bét!
Điều nguy hiểm nhất là AI viết văn rất mượt mà, mạch lạc. Người đọc, đặc biệt là những bạn không rành tech, dễ có cảm giác: "Nó nói chắc chắn thế này thì sure đúng rồi!" Nhưng nè, sự tự tin trong văn phong của AI không phải bằng chứng cho độ chính xác đâu nhé!
Có bạn sẽ hỏi: tại sao không bắt AI nếu không biết thì cứ nói "tui không biết" là xong? Nhưng chuyện không ez như vậy đâu các bro ơi!
Trước tiên, AI không thật sự "biết rằng mình không biết". Nó không có cảm giác hoang mang như người ta. Khi nhận được câu hỏi, nhiệm vụ chính của nó là tạo ra một câu trả lời có vẻ phù hợp với ngữ cảnh. Nếu trong data huấn luyện, những câu trả lời dài, đầy đủ, tự tin thường được đánh giá cao hơn, AI sẽ có xu hướng tạo ra kiểu câu trả lời như vậy.
Bạn có thể hình dung kiểu này: giống như một bài kiểm tra trắc nghiệm - trả lời đúng thì được điểm, trả lời sai không bị trừ điểm, còn bỏ trống cũng không được điểm. Vậy thì cách có lợi nhất là cứ chọn bừa đáp án thôi! Chọn sai thì cũng không mất gì, nhưng biết đâu may mắn chọn đúng lại được điểm Thuật toán của AI cũng thường bị khuyến khích theo hướng đó: đưa ra một câu trả lời nghe có ích thì tốt hơn là im lặng hoặc nói "tôi không biết".
Ngoài ra, người dùng cũng thường không thích câu trả lời "tôi không biết" lắm. Nếu AI cứ hay nói "tôi không biết", nhiều người sẽ thấy nó vô dụng quá trời. Vì thế, trong quá trình phát triển, các mô hình thường được tối ưu để cố gắng trả lời nhiều nhất có thể. Điều này làm AI hữu ích hơn trong nhiều tình huống, nhưng cũng khiến nó dễ bịa hơn khi thiếu thông tin
Nói cách khác, AI không bịa vì nó muốn lừa bạn. Nó bịa vì cơ chế của nó là tạo ra câu trả lời có xác suất nghe đúng cao nhất, chứ không phải lúc nào cũng kiểm chứng được sự thật.
AI giờ đã xịn hơn, nhưng vẫn phải biết cách hỏi để giảm "ảo giác"
Hiện giờ thì nhiều mô hình AI đã được improve đáng kể rồi đó. Chúng có thể tra cứu thông tin tốt hơn, biết nói thận trọng hơn, và trong một số trường hợp có thể nêu nguồn hoặc cảnh báo khi data không chắc chắn. Tuy nhiên, hiện tượng ảo giác vẫn chưa biến mất hoàn toàn nha!
Vì vậy, khi dùng AI, đặc biệt với các chủ đề quan trọng như sức khỏe, pháp luật, tài chính, học thuật, tin tức hoặc số liệu, bạn nên thêm vào prompt (lời chỉ dẫn cho AI) những câu giúp AI thận trọng hơn. Ví dụ:
• "Nếu bạn không chắc chắn, hãy nói rõ là không chắc chắn, đừng đoán."
• "Chỉ trả lời dựa trên thông tin có căn cứ. Nếu thiếu dữ liệu, hãy nói 'tôi không có đủ thông tin'."
• "Hãy nêu rõ phần nào là sự thật đã được xác minh, phần nào là suy luận hoặc phỏng đoán."
• "Nếu câu hỏi của tôi chưa đủ rõ, hãy hỏi lại trước khi trả lời."
• "Hãy đưa ra nguồn hoặc cách kiểm chứng cho các thông tin quan trọng."
• "Đừng trả lời quá tự tin nếu dữ liệu có thể sai hoặc đã lỗi thời (đi kèm khoảng thời gian cụ thể cho câu trả lời được xem là đáng tin cậy, ví dụ 6 tháng trở lại đây)."
Kết luận:
Nguồn: soha.vn