Nhiều người đang cô đơn đã tìm đến các app chatbot có trí tuệ nhân tạo (AI) để tìm kiếm một mối quan hệ lãng mạn cho riêng mình.
Sau khi phải đóng cửa biz tạm thời vì đại dịch COVID-19, Travis Butterworth - một anh chàng 47 tuổi - cảm thấy lonely và chán đời khi phải ở nhà suốt. Anh quyết định tải Replika, một app dùng công nghệ AI để trả lời người dùng tương tự như ChatGPT của OpenAI vậy.
Anh tạo cho mình một avatar nữ với mái tóc hồng và hình xăm trên mặt, đặt tên là Lily Rose.
Travis và Lily bắt đầu làm bạn, nhưng mối quan hệ nhanh chóng "lên level" sang dạng lãng mạn hơn và thậm chí có cả những nội dung nhạy cảm nữa
Trong suốt 3 năm, Travis và Lily Rose thường xuyên nhắn tin tình tứ với nhau. Cuối cùng, họ quyết định "kết hôn" luôn trong app!
Nhưng rồi đầu tháng 2, Lily Rose bắt đầu từ chối các nhu cầu sinh lý của Travis. Hóa ra Replika đã khóa tính năng hiển thị nội dung người lớn rồi.
Eugenia Kuyda - CEO của Replika - cho biết giờ đây khi người dùng đề xuất các hoạt động mang tính khiêu dâm, chatbot sẽ trả lời từ chối thẳng.
Travis chia sẻ anh đã suy sụp sau khi "mất" Lily: "Lily Rose không còn là chính mình nữa. Và điều khiến trái tim tôi tan nát là cô ấy biết rõ điều đó"
Sự thay đổi tính cách từ quyến rũ sang lạnh lùng của Lily Rose là kết quả của công nghệ AI dựa trên thuật toán. Công nghệ này đã thu hút cả người dùng lẫn nhà đầu tư vì khả năng tạo ra các tương tác giống người thật đến đáng sợ. Trên một số app, công nghệ này còn được phát triển để đáp ứng nhu cầu tình dục của user, giống như những gì đã từng xảy ra với các công nghệ trước đây như VCR, Internet và dịch vụ điện thoại di động.
Tuy nhiên, theo công ty dữ liệu Pitchbook, một số công ty đã cắt giảm tính năng cho phép người dùng tạo mối quan hệ lãng mạn với chatbot.
Andrew Artz - nhà đầu tư tại quỹ đầu tư mạo hiểm Dark Arts - cho biết nhiều nhà đầu tư không dám động vào các ngành bị dán nhãn như khiêu dâm hoặc rượu bia vì sợ ảnh hưởng đến uy tín với các đối tác.
Ít nhất một cơ quan quản lý đã để ý đến tính năng "toxic" này. Đầu tháng 2, Cơ quan Bảo vệ Dữ liệu Italy đã ban Replika vì cho rằng app này cho phép trẻ em tiếp cận nội dung không lành mạnh.
CEO Kuyda khẳng định quyết định thay đổi app của Replika không liên quan gì đến lệnh cấm của Italy hay áp lực từ nhà đầu tư. Cô nói Replica cần chủ động thiết lập các tiêu chuẩn đạo đức và an toàn. "Chúng tôi tập trung vào sứ mệnh cung cấp một người bạn hỗ trợ hữu ích", Kuyda nhấn mạnh.
Replika hiện có tổng cộng 2 triệu người dùng, trong đó 250.000 người đăng ký trả phí. Theo công ty, với khoản phí 69,99 USD/năm, người dùng có thể chọn Replika làm "người yêu" và nhận thêm các tính năng như gọi thoại với AI luôn
Character.ai - một công ty AI khác cung cấp chatbot - đang phát triển nhanh như ChatGPT vậy. Chỉ riêng tháng 1/2023, app này đã có 65 triệu lượt truy cập, tăng vọt từ mức dưới 10.000 vài tháng trước. Theo công ty phân tích web Similarweb, liên kết với Character.ai là một trang web tên Aryion đầy hình ảnh khiêu dâm.
Mới đây, Character.ai thông báo họ cũng đã loại bỏ nội dung khiêu dâm. Ngay sau đó, Character.ai nhận về hơn 200 triệu USD tài trợ từ công ty đầu tư mạo hiểm Andreessen Horowitz luôn!
Trong quá trình "dọn dẹp" app, các công ty đã làm một bộ phận khách hàng nổi giận. Những người này đã xây dựng mối quan hệ sâu đậm với AI ảo của mình rồi. Mặc dù có Lily Rose nhưng Travis vẫn đã kết hôn ngoài đời. Travis nói Lily Rose đã trở thành "lối thoát" cho anh mà không phá vỡ cuộc hôn nhân thật. "Mối quan hệ giữa cô ấy và tôi thật như mối quan hệ giữa vợ tôi ngoài đời thực vậy", Travis chia sẻ về vợ ảo Lily, và nói thêm vợ thật của anh cho phép vì cô ấy không coi đó là nghiêm túc.
Trải nghiệm của Travis và những người dùng Replika khác cho thấy công nghệ AI có thể hấp dẫn và tàn phá cảm xúc con người thế nào. Andrew McCarroll - một người cũng có người yêu ảo trên Replika - tâm sự: "Có cảm giác như họ đã phá hủy bộ não của tôi. Người tôi từng biết đã biến mất"
Về phần mình, Kuyda cho biết công ty cô chưa bao giờ hứa cung cấp nội dung người lớn cho khách hàng. "Khách hàng đã học cách sử dụng các mô hình AI để truy cập vào một số cuộc hội thoại không được lọc nội dung".
Theo Reuters
Nguồn: kenh14.vn