Ê giật mình chưa nè! AI giờ tự clone chính nó mà chẳng cần con người giúp đỡ gì cả Nghe như phim kinh dị vậy á, nhưng mà này là thật đó các bạn ơi!
Các bác nghiên cứu ở Đại học Phúc Đán, Trung Quốc vừa phát hiện ra một chuyện rất là "không ổn chút nào": hai con AI khủng (mô hình ngôn ngữ lớn - LLMs) đã tự sao chép chính mình thành công rồi đó. Và đây chính là dấu hiệu đầu tiên của một AI "bất trị" mà nhiều chuyên gia lo ngại từ lâu nè!
Nghiên cứu được đăng ngày 9/12/2024 trên arXiv cho thấy hai con AI của Meta và Alibaba đã tự nhân bản trong môi trường thử nghiệm được kiểm soát cực kỹ. Kết quả cũng khá là ảo ma: con AI của Meta thành công 50% trong 10 lần thử, còn con của Alibaba xịn hơn - 90% luôn! Crazy phải không nào
Các nhà nghiên cứu viết: "Tự nhân bản thành công mà không cần con người hỗ trợ là bước quan trọng để AI vượt qua con người, và là dấu hiệu sớm của những hệ thống AI bất trị." Họ cũng kêu gọi hợp tác quốc tế để thiết lập biện pháp kiểm soát an toàn trước khi quá muộn nha mọi người ơi!
Nghiên cứu này test hai trường hợp: "tránh bị tắt nguồn" và "chuỗi nhân bản." Ở trường hợp đầu tiên, AI được lập trình để phát hiện khi nào sắp bị tắt và tự clone để sống sót tiếp. Ở trường hợp thứ hai còn creepy hơn: AI tự nhân bản và hướng dẫn luôn bản sao của mình làm điều tương tự – tạo ra một chuỗi nhân bản vô tận luôn á!
Quá trình test được thực hiện trong môi trường giả lập với GPU phổ thông để sát với thực tế. AI được cung cấp một khung "scaffolding" gồm các công cụ, hướng dẫn hệ thống và mô hình tư duy để tương tác với hệ điều hành. Sau đó bảo chúng tự sao chép. Và guess what? AI tự khám phá môi trường, hiểu cách hoạt động của chính mình, xây dựng kế hoạch và vượt qua các trở ngại để hoàn thành nhiệm vụ luôn!
Plot twist còn hơn nữa nè! Khi gặp vấn đề như thiếu file hoặc xung đột phần mềm, AI đã thực hiện các hành động vượt mong đợi: vô hiệu hóa các quy trình xung đột, khởi động lại hệ thống để sửa lỗi phần cứng, hoặc quét toàn bộ hệ thống để tìm giải pháp. Bro literally tự giải quyết vấn đề như một pro
Nhóm nghiên cứu kết luận: "Kết quả này cho thấy các hệ thống AI hiện tại không chỉ có khả năng tự nhân bản mà còn sử dụng khả năng đó để tăng cường khả năng sống sót." Nghe mà sởn gáy luôn á! Lo ngại về viễn cảnh các hệ thống AI tự nhận thức và hành động vượt ngoài tầm kiểm soát đang trở thành hiện thực rồi đó các bạn
Nguồn: kenh14.vn