Chuyện gì đây, OpenAI vừa phát hiện ra một màn "đạo" công nghệ siêu to khổng lồ đấy các bạn ơi!
Theo CNBC đưa tin, OpenAI vừa phát hiện và chặn đứng một chiến dịch có tổ chức nhằm khai thác phần suy luận được bảo vệ từ các mô hình AI của họ. Điểm nóng là OpenAI đã xác định được một cụm hoạt động chính liên quan đến Moonshot AI - startup Trung Quốc đứng sau chatbot Kimi nổi tiếng đó.
Story bắt đầu từ đầu tháng 7, lúc đầu có vẻ bình thường nhưng rồi mọi chuyện leo thang cực nhanh với 16.000 yêu cầu từ hơn 4.000 người dùng chỉ trong vòng hai ngày. Cuối cùng OpenAI phát hiện ra quy mô thật sự: hơn 15.000 người dùng tham gia vào chiến dịch này luôn! May là đến ngày 28/7 thì họ đã chặn được hoàn toàn rồi.
Plot twist là chỉ vài tuần trước đó, Anthropic - đối thủ của OpenAI cũng vừa tố cáo một số nhà phát triển AI Trung Quốc (trong đó có cả Moonshot AI và Alibaba) là đã lén lút dùng mô hình Claude của họ để train AI riêng. Drama liên tiếp nha mọi người!
Vậy các công ty AI Mỹ đang lo gì? Lo là đối thủ có thể dùng mô hình của mình để phát triển công nghệ cạnh tranh nhanh hơn mà lại rẻ hơn nữa. Đúng là khôn vịt đấy!
OpenAI gọi chiến thuật này là "chưng cất đối kháng" (adversarial distillation) - nghe fancy nhưng hiểu đơn giản là lấy đầu ra hoặc khả năng suy luận của một mô hình AI này để train hoặc cải thiện mô hình AI khác.
Nguy hiểm ở chỗ nào? Việc khai thác kiểu này cho phép các bên khác sao chép những năng lực siêu xịn mà không cần đầu tư tốn kém như người phát triển ban đầu. OpenAI còn cảnh báo đây là vấn đề liên quan đến cả an toàn và an ninh quốc gia nữa đấy!
May mắn là các đối tượng không hack vào hệ thống mã hóa, database hay cuộc trò chuyện của user được lưu trên hệ thống OpenAI. Thay vào đó, họ chơi khéo hơn - thao túng các tương tác với mô hình AI để tái tạo phần suy luận ẩn thành dạng có thể hiển thị.
OpenAI thừa nhận chưa rõ tất cả đối tượng có liên quan đến cùng một bên hay không. Nhưng họ đã xác định được một cụm hoạt động chính có liên quan đến những người gắn với Moonshot AI rồi đấy.
Nguồn: saostar.vn