Trời ơi, AI giờ này xịn đến nỗi tạo ảnh, video fake như thật vậy mà kiểm soát thì... hơi khó! Đặc biệt là khi AI len lỏi vào các lĩnh vực "nhạy cảm" như y tế hay xe tự lái, thì chuyện "ảo giác" (hallucination) và leak data bản quyền nghe sao mà hãi hùng vậy ta!
May sao, team nghiên cứu từ ĐH Kookmin (Hàn Quốc) và ĐH British Columbia (Canada) vừa nghĩ ra một chiêu toán học cực kỳ "chanh sả"!
Giáo sư Kim Min Gyu - một "cao thủ" AI tại ĐH Kookmin - cùng đồng nghiệp vừa trình làng khung lý thuyết mang tên "Safety-Guided Flow" (viết tắt là SGF, nghe cool không nào) tại International Conference on Learning Representations 2026 (ICLR) - hội nghị AI đỉnh cao top 3 thế giới đó nha!
Nói cho dễ hiểu thì trước giờ các dev hay dùng kỹ thuật "khử nhiễu" để lọc những thứ nguy hiểm, nhưng kiểu gì cũng chỉ là giải pháp "đắp đổ" thôi. Còn SGF này khác, nó dùng toán học để "gom" tất cả các công cụ an toàn rời rạc lại thành một hệ thống chặt chẽ. Bằng cách mô hình hóa sự an toàn như một "hàm tiềm năng" (nghe hơi hack não nhưng nó xịn thật đấy ), SGF có thể chặn đứng các output nguy hiểm hiệu quả hơn hẳn, đồng thời giảm nguy cơ AI "copy-paste" lung tung tài liệu có bản quyền!
Điểm đặc biệt là timing nữa nè!
Team nghiên cứu phát hiện ra rằng các biện pháp bảo vệ "ngon" nhất là ở giai đoạn đầu - lúc AI mới bắt đầu "nặn" hình ảnh từ nhiễu. Sau đó có thể "thả lỏng" dần khi đầu ra đã ổn định rồi. Smart phết! Timing ra mắt công trình này cũng "hợp thời" vô cùng, vì giờ các chính phủ từ Mỹ đến châu Âu, châu Á đang siết chặt quản lý AI để xử lý các vấn đề từ fake news đến vi phạm sở hữu trí tuệ. Pressure lên các công ty công nghệ đang tăng dần đều đấy!
Các nhà nghiên cứu cho biết khung SGF này có thể giúp tạo ảnh an toàn một cách có hệ thống hơn, thống nhất các phương pháp hiện có và áp dụng hiệu quả hơn - đặc biệt là tập trung bảo vệ ngay từ giai đoạn đầu tạo hình ảnh!
Hy vọng với phát minh này, AI sẽ ít "phá" hơn và mọi người yên tâm hơn nhé!
Nguồn: svvn.tienphong.vn