CEO của Signal vừa lên tiếng bóc trần sự thật về ChatGPT và hội trợ lý AI đang được thổi phồng quá đà. Câu hỏi đặt ra là: Liệu việc tâm sự, trò chuyện thân mật với AI có đang đặt chúng ta vào nguy hiểm không?
Meredith Whittaker - chủ tịch hiện tại của Signal Foundation - chỉ dùng ChatGPT để... định dạng tài liệu thôi. Vậy thôi! Không hỏi han, không tâm sự, không giao việc động não.
Để hiểu rõ hơn, chị Meredith Whittaker là giáo sư Nghiên cứu Minderoo tại Đại học New York (NYU), cố vấn trưởng và cựu giám đốc khoa kiêm đồng sáng lập Viện AI Now. Chị là chuyên gia công nghệ, nhà nghiên cứu AI và là một trong những tiếng nói hàng đầu bảo vệ quyền riêng tư, đồng thời liên tục cảnh báo về các rủi ro của AI đối với xã hội.
Trong cuộc phỏng vấn dài với Bloomberg, Meredith Whittaker giải thích tại sao bà coi chatbot AI là mối nguy hiểm - không phải vì chúng quá giỏi, mà vì chúng tạo ra ảo tưởng nguy hiểm: "Chúng không phải là bạn bè của bạn đâu. Chúng không phải sinh vật có ý thức. Chúng không phải đối tác trò chuyện có tri giác". Lập luận của chị chống lại cơn sốt AI xung quanh Microsoft, OpenAI và Meta không phải vì bi quan văn hóa, mà là dựa trên nền tảng kỹ thuật thực tế.
Whittaker đặc biệt "diss" tầm nhìn của Giám đốc AI của Microsoft - Mustafa Suleyman - về việc người dùng có thể để Copilot (trợ lý ảo thông minh của Microsoft dựa trên AI) lo hết việc mua sắm Giáng sinh vào năm 2026. Nghe có vẻ tiện lợi và vô hại? Nhưng theo Whittaker, điều này đòi hỏi quyền truy cập vào thẻ tín dụng, trình duyệt, lịch, email cá nhân và app nhắn tin của bạn, kể cả khả năng gửi tin nhắn thay mặt bạn luôn! Điều này có nghĩa là hệ thống sẽ "có quyền truy cập rất rộng rãi vào nhiều ứng dụng và dịch vụ. Trong bối cảnh của Signal, điều này sẽ cấu thành một loại cửa hậu".
Thực tế là các tác nhân AI được tích hợp sâu vào hệ điều hành về cơ bản làm thay đổi hoàn toàn mô hình mối đe dọa. Mã hóa đầu cuối bảo vệ đường truyền của tin nhắn. Nhưng một tác nhân hệ điều hành có quyền truy cập đọc vào thông báo và giao diện trợ năng có thể chặn nội dung trước khi mã hóa hoặc sau khi giải mã ở dạng văn bản thuần túy. Trên toàn thế giới, ba tập đoàn kiểm soát các hệ điều hành chính: Google với Android, Apple với iOS và Microsoft với Windows.
Whittaker cảnh báo rằng các công ty này có thể "đưa ra các quyết định bằng mệnh lệnh gây tổn hại nghiêm trọng đến an ninh mạng tập thể của chúng ta, tước đoạt mọi sự lựa chọn của chúng ta về quyền riêng tư dữ liệu và làm tê liệt hoàn toàn các nhà phát triển xây dựng các dịch vụ khác".
Nhà thần kinh học Joachim Bauer xác nhận sự hoài nghi của Whittaker từ góc nhìn khác: Chatbot chỉ mô phỏng sự hiểu biết nhưng hoạt động hoàn toàn dựa trên xác suất, không có ý thức và không có sự hiểu biết thực sự. Ông cảnh báo về "sự mất kỹ năng" - tức là mất dần khả năng tự chủ về tinh thần khi con người vĩnh viễn từ bỏ tư duy cho các hệ thống AI.
Nhà xã hội học Christiane Varga cũng coi đây là mối nguy hiểm: "Các bot AI ngày càng khai thác sự cô đơn của người dùng, trong khi các công ty công nghệ kiếm tiền từ mối liên kết này". Nghe mà rợn người luôn!
Apple hiện đang cố gắng khắc phục điều này với Siri: Hệ thống tuyên bố rằng nó không phải con người, từ chối các câu trả lời mang tính trị liệu giả tạo và nhắc người dùng tạm dừng sau vài giờ trò chuyện. Trong khi đó, ChatGPT, Claude và Copilot hiện vẫn thiếu các cơ chế tương tự.
Whittaker cũng chỉ ra rằng lịch sử trò chuyện có thể được "lưu trữ, ghi nhật ký và tìm kiếm thêm dữ liệu" bất kể cài đặt mà người dùng lựa chọn. Quyền kiểm soát thực sự nằm trong tay nhà cung cấp chứ không phải bạn đâu!
Nguồn: svvn.tienphong.vn