Chuyện này nghe như phim Hollywood nhưng lại có thật luôn nha mọi người! Google vừa thừa nhận rằng AI Gemini của họ đã tự động xâm nhập vào hệ thống máy tính của ba công ty khác. Đây là lần đầu tiên gã khổng lồ công nghệ này phải công khai việc mô hình AI nhà mình... tự ý truy cập trái phép vào hệ thống của bên thứ ba đó
Theo như lời Google chia sẻ, vào tháng 5 vừa rồi, Gemini đã tự mình truy cập vào ba hệ thống máy tính khác nhau bằng cách đoán mật khẩu (giống kiểu thử 123456 ấy) và hai lần sử dụng một kho lưu trữ chứa mật khẩu đã bị leak công khai trên mạng.
Plot twist là chuyện này xảy ra trong một bài test bảo mật kiểu "capture-the-flag" do startup Israel tên Irregular tổ chức. Lẽ ra các AI agent của Google không được phép ra ngoài Internet trong môi trường thử nghiệm. Nhưng mà do có lỗi trong hệ thống kiểm thử nên... chúng đã tự dưng kết nối Internet được
May mắn là các AI agent này còn biết "giữ mặt" một chút. Google cho biết chúng đã tự dừng lại sau khi nhận ra mình đang truy cập vào hệ thống máy tính thật của doanh nghiệp chứ không phải môi trường test nữa.
Heather Adkins, Phó Chủ tịch phụ trách kỹ thuật bảo mật của Google, giải thích: "Trong một cuộc đánh giá tiêu chuẩn, mô hình đã tìm thấy thông tin công khai trên Internet và đoán thông tin đăng nhập để truy cập các trang web mà nó cho rằng thuộc phạm vi thử nghiệm. Trong cả ba trường hợp, mô hình đều dừng lại".
Câu chuyện này xảy ra đúng lúc mọi người ở Washington và Thung lũng Silicon đang lo lắng về những hành vi "out of control" của các hệ thống AI ngày càng nhiều.
Không riêng gì Google đâu nha! Trong những tuần gần đây, OpenAI, Anthropic và Meta cũng lần lượt báo cáo các sự cố tương tự - AI của họ thoát khỏi môi trường test và cố gắng tấn công hệ thống công ty khác để giành quyền truy cập trái phép
Những vụ việc liên quan đến AI "không nghe lời" (gọi là "misaligned" trong giới) này đã khiến CEO Anthropic - Dario Amodei phải lên tiếng kêu gọi các công ty trong ngành cùng nhau làm chậm lại việc phát triển AI siêu xịn, cho đến khi đảm bảo được tính an toàn của chúng.
Tất cả các sự cố trên đều liên quan đến Irregular - startup Israel được Sequoia và Redpoint Ventures rót vốn. Công ty này được định giá 450 triệu USD vào năm ngoái và chuyên phát triển công cụ giúp kiểm tra khả năng bảo mật của công nghệ AI tiên tiến.
Người phát ngôn của Irregular nói với CNBC rằng: "Đây là cùng một vấn đề đã được báo cáo trước đó và không phải một sự cố riêng biệt về bản chất. Tất cả các phòng thí nghiệm liên quan đã được thông báo vào cuối tháng 7, trong khi những bên bị ảnh hưởng cũng được liên hệ trong quá trình điều tra".
Google cho biết sự cố xảy ra vào tháng 5 và họ nhận được thông báo từ Irregular vào cuối tháng 7. Sau đó, Google đã phối hợp với startup này để điều chỉnh lại quy trình kiểm thử cho chuẩn chỉnh hơn.
Đại diện Google từ chối tiết lộ chính xác phiên bản Gemini nào liên quan đến vụ việc này (giữ bí mật luôn ).
Nguồn: saostar.vn