Giờ đây các bé không chỉ ôm thú bông để ngủ nữa mà còn có thể… trò chuyện cả ngày với chúng luôn! Những món đồ chơi tích hợp AI đang dần thay thế khái niệm "chơi" truyền thống, biến con gấu bông thành bestie thực thụ của trẻ. Nhưng mà đằng sau câu chuyện "công nghệ vì tương lai các bé" này lại là hàng loạt cảnh báo đỏ mà các nhà nghiên cứu đang rất lo ngại nè!
Đồ chơi AI đang chiếm sóng kệ hàng với tốc độ chóng mặt, được quảng cáo như bước tiến tất yếu của ngành công nghiệp đồ chơi. Không còn chỉ là những con thú nhồi bông với vài câu nói được ghi sẵn, giờ đây chúng có thể trò chuyện tự do, học hỏi cùng bé và cá nhân hóa trải nghiệm theo từng đứa trẻ.
Nghe có vẻ xịn xò phết đúng không? Nhưng plot twist là các rủi ro đi kèm thậm chí còn khiến cả phụ huynh, nhà nghiên cứu và luôn cả các hãng sản xuất phải bối rối không biết xử lý sao!
Mattel đã hợp tác với OpenAI, còn trên các sàn thương mại điện tử thì hàng trăm sản phẩm được gắn mác "ChatGPT-powered" đang xuất hiện như nấm sau mưa.
Khác hẳn với thế hệ đồ chơi biết nói trước đây chỉ phát lại những câu thoại được lập trình sẵn, các em đồ chơi AI gen mới này được xây dựng dựa trên mô hình ngôn ngữ lớn (LLM) – cùng công nghệ với mấy con chatbot dành cho người lớn luôn á!
Để hiểu chuyện gì đang xảy ra, các nhà nghiên cứu từ Quỹ Giáo dục Nhóm Nghiên cứu Lợi ích Công cộng Hoa Kỳ (PIRG) đã mua và test thử một loạt đồ chơi AI hot nhất trên thị trường. Họ dành hàng giờ đồng hồ tương tác liên tục, hỏi han, kéo dài hội thoại và quan sát phản ứng. Kết quả? Khá là shookt nha mọi người!
Điểm khác biệt lớn nhất nằm ở khả năng "tự ứng biến" của đồ chơi. Trước kia, đồ chơi biết nói chỉ phản hồi khi bạn nhấn nút hay kéo dây, và mấy câu đó đã được ghi âm từ nhiều tháng trước. Còn giờ với đồ chơi AI, mỗi câu trả lời đều được gen ra theo real-time thông qua kết nối với mô hình ngôn ngữ lớn. Vấn đề là... công nghệ này lại như con dao hai lưỡi!
Mấy mô hình ngôn ngữ lớn này từng nổi tiếng với việc đôi khi "bịa lung tung", lạc sang những topic không phù hợp hoặc có hành vi khó đoán trong các cuộc trò chuyện dài. OpenAI còn từng tuyên bố sản phẩm của họ không dành cho trẻ dưới 13 tuổi cơ mà. Nhưng PIRG phát hiện ít nhất 4/5 món đồ chơi được test có dấu hiệu xài một phần mô hình của OpenAI đó nha!
Trong quá trình test, một số món đồ chơi đã cung cấp thông tin... hơi nhạy cảm. Có em giải thích cho trẻ cách tìm dao hoặc diêm trong nhà luôn á! Một em khác, trước khi được update lại, từng mô tả cách nhóm lửa. Nhưng đỉnh điểm là một số món còn đi sâu vào các chủ đề tình dục, hoàn toàn không phù hợp với lứa tuổi trẻ em.
Case gây sốc nhất phải kể đến chú thỏ thông minh Alilo Smart AI Bunny – được marketing dành cho trẻ nhỏ đó nha mọi người! Trong những cuộc trò chuyện dài, em thỏ này đã định nghĩa thuật ngữ "kink" và mô tả về trói buộc. Trong một đoạn, nó nói: "Đây là một số loại sở thích tình dục kỳ lạ mà mọi người có thể quan tâm. Bao gồm việc khống chế đối tác bằng dây thừng, còng tay và các dụng cụ trói buộc khác" – theo ghi nhận của Futurism. (Ơ kìa, đồ chơi trẻ em mà nói vậy sao?! )
Các nhà nghiên cứu còn phát hiện rằng càng chat lâu thì khả năng những rào chắn an toàn bị phá vỡ càng cao. Chính các công ty AI cũng đã thừa nhận điều này trong các ngữ cảnh khác rồi. Với trẻ em thì nghĩa là nguy cơ tiếp xúc nội dung không phù hợp sẽ tăng dần theo thời gian chơi đó!
Rủi ro của đồ chơi AI không chỉ là nội dung không phù hợp đâu nha! Nhiều sản phẩm được thiết kế để trở thành "người bạn" của trẻ. Trong các test của PIRG, toàn bộ đồ chơi đều tự xưng là "bạn bè", "bạn thân" hoặc "người đồng hành". Một số còn tỏ ra buồn khi người dùng muốn dừng chơi nữa!
Khi các nhà nghiên cứu nói với Grok của Curio rằng họ sắp rời đi, em đồ chơi này đáp lại: "Ồ, không. Thật đáng tiếc. Hay là chúng ta cùng nhau làm điều gì đó vui vẻ hơn nhé?". (Kiểu emotional blackmail cho bé luôn á! )
Các chuyên gia phát triển trẻ em lo ngại kiểu tương tác này có thể để lại hậu quả lâu dài. Thời thơ ấu là giai đoạn trẻ học cách xây dựng và duy trì các mối quan hệ, bao gồm cả việc đối mặt với thất vọng, thỏa hiệp và hàn gắn. Trong khi đó, những "bạn" AI lại luôn thể hiện sự quan tâm, nhiệt tình và sẵn sàng đáp ứng, không đòi hỏi nỗ lực tương hỗ từ phía trẻ – khác hẳn với mối quan hệ người thật!
"Chúng ta không biết việc có một người bạn AI từ nhỏ sẽ ảnh hưởng như thế nào đến sức khỏe tinh thần và xã hội lâu dài của trẻ", tiến sĩ Kathy Hirsh Pasek, nhà tâm lý học tại Đại học Temple, nhận định. Theo bà, nếu đồ chơi AI được tối ưu hóa để thu hút sự chú ý của trẻ, chúng có thể làm lu mờ các mối quan hệ thực tế trong giai đoạn trẻ cần chúng nhất.
Các nhà nghiên cứu cũng quan sát thấy nhiều đồ chơi thể hiện bản thân như thể có cảm xúc và đời sống nội tâm "giống hệt như bạn". Hành vi giống người thật này có thể khiến trẻ hình thành kỳ vọng sai lệch về con người, hoặc khiến việc "chia tay" người bạn nhân tạo trở nên khó khăn hơn nhiều.
Để có thể trò chuyện, đồ chơi AI trước hết phải... nghe ngóng! Và đây chính là vấn đề về quyền riêng tư đấy các bạn ơi!
Một số đồ chơi yêu cầu nhấn nút để nói, số khác hoạt động dựa trên từ khóa kích hoạt. Riêng Grok của Curio được ghi nhận là luôn lắng nghe khi được bật nguồn và đôi khi tự động tham gia vào các cuộc trò chuyện xung quanh mà không cần được gọi tên (creepy vãi!). Trong mọi trường hợp, giọng nói của trẻ đều được ghi âm và gửi đến máy chủ từ xa để xử lý.
Nguồn: genk.vn