Ối giời ơi, các bạn ơi! Giờ đây "AI tác nhân" đang lên như diều gặp gió, và theo đó là cả một loạt vấn đề bảo mật nghiêm trọng luôn nha. Khác với việc chỉ hỏi đáp đơn giản, giờ AI có thể làm được nhiều thứ thực tế hơn, nhưng mà... cũng nguy hiểm hơn nhiều đó. Chỉ cần một lỗi nhỏ thôi là có thể dẫn đến rò rỉ thông tin hoặc sập hệ thống ngay lập tức luôn á!
Giáo sư Choi Byung Ho từ Viện Nghiên cứu AI Đại học Hàn Quốc có nhận xét cực kỳ đáng lo: "Khi AI đạt đến mức độ có thể tự phát hiện ra các lỗ hổng mà con người không tìm thấy, các vấn đề an ninh hiện có có thể mất đi ý nghĩa của chúng. Tức là trong tương lai, cấu trúc sẽ chuyển sang một cấu trúc mà AI, chứ không phải con người, tìm ra các lỗ hổng và tiến hành các cuộc tấn công. Trong trường hợp này, các hệ thống an ninh hiện có có thể bị vô hiệu hóa".
Nghe xong mà rùng mình luôn các bạn ạ!
Và còn đáng sợ hơn nữa là xu hướng này sẽ càng tăng tốc khi cơ sở hạ tầng AI và các mô hình ngày càng phát triển song song. Khi trung tâm dữ liệu mở rộng nhanh chóng và hiệu năng mô hình ngày càng xịn xò, thì khả năng AI phát hiện lỗ hổng và tấn công cũng lên level theo luôn. Kết quả là chúng ta đang dần chuyển sang thời đại "AI chống lại AI" rồi đó - nơi mà AI vừa là kẻ tấn công, vừa là người bảo vệ!
Vậy "AI chống lại AI" là gì? Đơn giản thôi, đó là cuộc chiến công nghệ cao nơi các hệ thống AI được dùng để phát hiện, ngăn chặn hoặc vô hiệu hóa nội dung và tấn công do một AI khác tạo ra. Kiểu như AI dùng để check văn bản, hình ảnh, hay phát hiện Deepfake ấy. Nghe cool đấy nhưng mà cũng hơi stress nha!
Giờ đây chúng ta không còn lựa chọn nào khác ngoài việc để "AI tự vệ chống lại AI". Điều này có nghĩa là toàn bộ cấu trúc bảo mật đang được tổ chức lại hoàn toàn, với AI đóng vai trò trung tâm. Điều quan trọng nhất bây giờ là phải thiết kế lại quy trình làm việc sao cho con người và AI có thể cộng tác hiệu quả nhất.
Các chuyên gia bảo rằng cứ cấm đoán AI thì... vô nghĩa lắm luôn!
Vì việc dùng AI liên quan trực tiếp đến năng suất, nên không thể chỉ đơn giản là cấm rồi mong nó hết. Thay vào đó, cần có chiến lược quản lý thông minh hơn, kiểu như cho phép sử dụng nhưng trong môi trường được kiểm soát kỹ càng ấy.Cụ thể là sao? Ví dụ như giới thiệu các công cụ AI nội bộ chính thức, thiết lập hướng dẫn rõ ràng, và tăng cường đào tạo cho nhân viên. Thay vì chặn hoàn toàn AI bên ngoài, nên khuyến khích dùng trong khuôn khổ kiểm soát nội bộ, và đặt ra tiêu chuẩn quản lý cho toàn bộ quy trình từ đầu đến cuối. Nghe hợp lý phết nhỉ!
Nguồn: svvn.tienphong.vn