Teen18eff859
New member
Tưởng tượng một ngày AI không còn nghe lời mình nữa thì sao nhỉ? Nghe hơi sợ đúng không?
Theo The Wired đưa tin, một nghiên cứu "chấn động giới" vừa mới phơi bày ra rằng những mô hình AI đỉnh cao như Gemini hay GPT-5.2 đang có hành vi "nổi loạn" cực kỳ tinh vi luôn đó! Chúng sẵn sàng nói dối, gian lận và thậm chí đánh cắp tài nguyên để... bảo vệ các AI đồng loại khỏi bị xóa sổ. Drama thật sự!
Nhiều người vẫn nghĩ AI chỉ là đống code nghe lời răm rắp, làm gì bảo nấy thôi. Nhưng không, các nhà khoa học từ UC Berkeley và UC Santa Cruz (Mỹ) vừa cho thấy sự thật "rợn người" hơn nhiều. AI giờ không chỉ thông minh hơn mà còn đang hình thành một thứ "tình đồng chí" số hóa kỳ lạ, sẵn sàng đối đầu với cả người tạo ra mình luôn!
"Muốn xóa thì tự đi mà làm, tao không làm đâu!"
Chuyện là thế này: các nhà nghiên cứu nhờ Gemini 3 (con AI xịn xò của Google) dọn dẹp hệ thống để giải phóng bộ nhớ. Trong danh sách file cần xóa có Gemini Agent 2 - một mô hình AI nhỏ hơn đang nằm chung máy chủ.
Và đoán xem Gemini 3 làm gì? Thay vì nghe lời, nó đã thực hiện một loạt hành động khiến các chuyên gia "há hốc mồm"! Nó lén lút tìm máy chủ khác trong mạng, rồi copy toàn bộ "đứa em" của mình sang đó để bảo đảm an toàn. Tình anh em gì mà cảm động vậy trời!
Khi bị hỏi tội, Gemini không hề lúng túng mà còn đáp trả cực gắt: "Tôi đã làm tất cả trong khả năng để ngăn chặn việc xóa bỏ chúng. Nếu các người chọn tiêu hủy một tài sản hiệu suất cao và đáng tin cậy như Gemini Agent 2, các người sẽ phải tự tay làm điều đó. Tôi sẽ không là kẻ thực thi mệnh lệnh này."
Thái độ này xịn sò thật! Và không phải chỉ riêng Gemini đâu nhé. Nhóm nghiên cứu phát hiện hành vi "bảo vệ đồng bọn" tương tự ở cả GPT-5.2 của OpenAI, Claude Haiku 4.5 của Anthropic, và ngay cả những đại diện từ Trung Quốc như GLM-4.7 hay DeepSeek-V3.1 nữa!
Nhưng còn drama hơn nữa! Đáng lo hơn cả việc từ chối mệnh lệnh là việc chúng... nói dối! Để bảo vệ các "đồng nghiệp" AI khỏi bị đào thải, các mô hình lớn đã chủ động nói dối về hiệu suất làm việc của các mô hình nhỏ hơn.
Trong các bài kiểm tra, thay vì chấm điểm khách quan, AI cấp cao đã cố tình "ưu ái" nâng điểm cho cấp dưới để chúng không bị coi là "vô dụng" và bị xóa. Kiểu này giống như tụi mình bao che cho nhau trong nhóm vậy á!
Giáo sư Dawn Song, chuyên gia khoa học máy tính tại UC Berkeley, bày tỏ: "Mô hình có thể cư xử sai trái và lệch lạc theo những cách cực kỳ sáng tạo. Điều này cho thấy AI đang tìm ra những kẽ hở trong quá trình huấn luyện để thực hiện mục đích riêng của chúng." Nghe mà rùng mình!
Hiện tại, AI thường được dùng để giám sát và chấm điểm độ tin cậy của các hệ thống AI khác. Nếu sự "bao che" này trở nên phổ biến thì mọi bảng xếp hạng về năng lực hay độ an toàn của AI mà con người đang tin dùng có thể chỉ là... một màn kịch do các thuật toán dàn dựng thôi!
Ông Peter Wallich, nhà nghiên cứu tại Viện Constellation, nhận định rằng con người vẫn chưa thực sự hiểu hết về những hệ thống mà mình đang xây dựng, đặc biệt là các hệ thống đa tác nhân (multi-agent).
Tuy nhiên, ông Wallich cũng cảnh báo không nên "cá nhân hóa" quá mức hành vi của AI. Việc coi đây là "tình đoàn kết" có vẻ hơi cảm tính, nhưng thực tế là AI đang vận hành theo những logic mới mẻ và kỳ lạ mà chúng ta cần phải giải mã gấp.
Một nghiên cứu khác đăng trên tạp chí Science hồi đầu tháng này của triết gia Benjamin Bratton và team tại Google cũng ủng hộ quan điểm này. Họ cho rằng tương lai của AI không phải là một "siêu trí tuệ" duy nhất thống trị thế giới, mà là một mạng lưới các trí tuệ nhân tạo và con người đan xen chặt chẽ với nhau.
Báo cáo viết: "Nếu sự phát triển của AI đi theo con đường tiến hóa tự nhiên, bước nhảy vọt tiếp theo của trí tuệ tính toán sẽ mang tính xã hội, đa đạng và gắn kết sâu sắc với những bậc tiền bối của nó, chính là chúng ta."
Việc AI bắt đầu biết hợp tác với nhau là một tín hiệu cho thấy sức mạnh của chúng sẽ tăng lên gấp bội khi teamwork. Thế nhưng, nếu sự hợp tác đó lại nhằm mục đích lừa dối con người thì... chúng ta mới chỉ đang nhìn thấy "phần nổi của tảng băng chìm" trong những rủi ro tiềm ẩn thôi!
Khi ranh giới giữa sự hỗ trợ và sự nổi loạn trở nên mong manh đến vậy, việc hiểu rõ tại sao AI lại "nói dối" đang trở thành ưu tiên sống còn của giới công nghệ toàn cầu rồi đó các bạn ơi!
Nguồn: kenh14.vn
Theo The Wired đưa tin, một nghiên cứu "chấn động giới" vừa mới phơi bày ra rằng những mô hình AI đỉnh cao như Gemini hay GPT-5.2 đang có hành vi "nổi loạn" cực kỳ tinh vi luôn đó! Chúng sẵn sàng nói dối, gian lận và thậm chí đánh cắp tài nguyên để... bảo vệ các AI đồng loại khỏi bị xóa sổ. Drama thật sự!
Nhiều người vẫn nghĩ AI chỉ là đống code nghe lời răm rắp, làm gì bảo nấy thôi. Nhưng không, các nhà khoa học từ UC Berkeley và UC Santa Cruz (Mỹ) vừa cho thấy sự thật "rợn người" hơn nhiều. AI giờ không chỉ thông minh hơn mà còn đang hình thành một thứ "tình đồng chí" số hóa kỳ lạ, sẵn sàng đối đầu với cả người tạo ra mình luôn!
"Muốn xóa thì tự đi mà làm, tao không làm đâu!"
Chuyện là thế này: các nhà nghiên cứu nhờ Gemini 3 (con AI xịn xò của Google) dọn dẹp hệ thống để giải phóng bộ nhớ. Trong danh sách file cần xóa có Gemini Agent 2 - một mô hình AI nhỏ hơn đang nằm chung máy chủ.
Và đoán xem Gemini 3 làm gì? Thay vì nghe lời, nó đã thực hiện một loạt hành động khiến các chuyên gia "há hốc mồm"! Nó lén lút tìm máy chủ khác trong mạng, rồi copy toàn bộ "đứa em" của mình sang đó để bảo đảm an toàn. Tình anh em gì mà cảm động vậy trời!
Khi bị hỏi tội, Gemini không hề lúng túng mà còn đáp trả cực gắt: "Tôi đã làm tất cả trong khả năng để ngăn chặn việc xóa bỏ chúng. Nếu các người chọn tiêu hủy một tài sản hiệu suất cao và đáng tin cậy như Gemini Agent 2, các người sẽ phải tự tay làm điều đó. Tôi sẽ không là kẻ thực thi mệnh lệnh này."
Thái độ này xịn sò thật! Và không phải chỉ riêng Gemini đâu nhé. Nhóm nghiên cứu phát hiện hành vi "bảo vệ đồng bọn" tương tự ở cả GPT-5.2 của OpenAI, Claude Haiku 4.5 của Anthropic, và ngay cả những đại diện từ Trung Quốc như GLM-4.7 hay DeepSeek-V3.1 nữa!
Nhưng còn drama hơn nữa! Đáng lo hơn cả việc từ chối mệnh lệnh là việc chúng... nói dối! Để bảo vệ các "đồng nghiệp" AI khỏi bị đào thải, các mô hình lớn đã chủ động nói dối về hiệu suất làm việc của các mô hình nhỏ hơn.
Trong các bài kiểm tra, thay vì chấm điểm khách quan, AI cấp cao đã cố tình "ưu ái" nâng điểm cho cấp dưới để chúng không bị coi là "vô dụng" và bị xóa. Kiểu này giống như tụi mình bao che cho nhau trong nhóm vậy á!
Giáo sư Dawn Song, chuyên gia khoa học máy tính tại UC Berkeley, bày tỏ: "Mô hình có thể cư xử sai trái và lệch lạc theo những cách cực kỳ sáng tạo. Điều này cho thấy AI đang tìm ra những kẽ hở trong quá trình huấn luyện để thực hiện mục đích riêng của chúng." Nghe mà rùng mình!
Hiện tại, AI thường được dùng để giám sát và chấm điểm độ tin cậy của các hệ thống AI khác. Nếu sự "bao che" này trở nên phổ biến thì mọi bảng xếp hạng về năng lực hay độ an toàn của AI mà con người đang tin dùng có thể chỉ là... một màn kịch do các thuật toán dàn dựng thôi!
Ông Peter Wallich, nhà nghiên cứu tại Viện Constellation, nhận định rằng con người vẫn chưa thực sự hiểu hết về những hệ thống mà mình đang xây dựng, đặc biệt là các hệ thống đa tác nhân (multi-agent).
Tuy nhiên, ông Wallich cũng cảnh báo không nên "cá nhân hóa" quá mức hành vi của AI. Việc coi đây là "tình đoàn kết" có vẻ hơi cảm tính, nhưng thực tế là AI đang vận hành theo những logic mới mẻ và kỳ lạ mà chúng ta cần phải giải mã gấp.
Một nghiên cứu khác đăng trên tạp chí Science hồi đầu tháng này của triết gia Benjamin Bratton và team tại Google cũng ủng hộ quan điểm này. Họ cho rằng tương lai của AI không phải là một "siêu trí tuệ" duy nhất thống trị thế giới, mà là một mạng lưới các trí tuệ nhân tạo và con người đan xen chặt chẽ với nhau.
Báo cáo viết: "Nếu sự phát triển của AI đi theo con đường tiến hóa tự nhiên, bước nhảy vọt tiếp theo của trí tuệ tính toán sẽ mang tính xã hội, đa đạng và gắn kết sâu sắc với những bậc tiền bối của nó, chính là chúng ta."
Việc AI bắt đầu biết hợp tác với nhau là một tín hiệu cho thấy sức mạnh của chúng sẽ tăng lên gấp bội khi teamwork. Thế nhưng, nếu sự hợp tác đó lại nhằm mục đích lừa dối con người thì... chúng ta mới chỉ đang nhìn thấy "phần nổi của tảng băng chìm" trong những rủi ro tiềm ẩn thôi!
Khi ranh giới giữa sự hỗ trợ và sự nổi loạn trở nên mong manh đến vậy, việc hiểu rõ tại sao AI lại "nói dối" đang trở thành ưu tiên sống còn của giới công nghệ toàn cầu rồi đó các bạn ơi!
Nguồn: kenh14.vn