Dạo này AI đang hot rần rần, nhưng mà các nhà khoa học MIT (Mỹ) vừa trolled cả trí tuệ nhân tạo của Google một trận đáng nhớ. Họ đã khiến AI này nhầm lẫn giữa một chú rùa cute với... một khẩu súng trường luôn! Nghe vô lý vậy thôi chứ chuyện này đang gióng lên hồi chuông cảnh báo về tính bảo mật của AI đấy nhé
Như các bạn thấy đấy, đây rõ ràng là một chú rùa đúng không? Nhưng AI của Google lại có suy nghĩ hoàn toàn khác!
Thật ra thì logic cơ bản ở đây là: nếu một con vật có đủ kích cỡ, hình dạng và đặc điểm giống rùa thì... hello, nó là rùa chứ đâu phải súng? Nhưng mà với AI của Google thì câu chuyện lại khác, khiến ai cũng phải ngơ ngác không hiểu chuyện gì đang xảy ra
Plot twist là đây chính là kết quả của một thí nghiệm chất lừ về khả năng nhận diện vật thể của AI do Google phát triển. Thí nghiệm này được thực hiện bởi team Labsix tại MIT và được đăng trên ấn phẩm khoa học của trường luôn nha!
Các nhà khoa học đã giới thiệu một khái niệm có tên "hình ảnh đối nghịch" (adversarial images). Đây là một dạng mô phỏng hình ảnh từ dưới lên với mục đích "troll" AI, khiến chúng tưởng vật này là vật khác hoàn toàn. Ví dụ như họ cho AI xem ảnh một chú mèo nâu và bùm - 99% AI sẽ trả lời đó là... một bát salad bơ kiểu Mexico
Để hình ảnh mô phỏng đạt hiệu quả tối đa, người ta còn thêm cả hiệu ứng âm thanh để làm rối loạn các cảm biến môi trường xung quanh của AI, trong khi con người bình thường thì... chill không bị ảnh hưởng gì cả.
Mặc dù có nhiều công trình nghiên cứu chứng minh trên lý thuyết chuyện này có thể xảy ra, nhưng ví dụ thực tế lại không thực sự thuyết phục lắm. Hiệu ứng âm thanh kiểu này hoàn toàn có thể bị phá tan nếu chỉ cần xoay ngược tấm ảnh, chỉnh màu hay cắt ghép ảnh một chút thôi.
Chính vì thế, team MIT đã level up phương pháp này bằng cách dùng mô hình bề mặt 3D của chú rùa thay vì hình ảnh 2D đơn giản. Kết quả là họa tiết trên mai rùa trở nên hơi trippy nhưng vẫn nhìn ra đó là rùa thật - còn AI của Google thì 90% đưa ra kết luận đó là... khẩu súng trường
Team nghiên cứu cũng thử với trái bóng chày 3D, thiết kế để nó trông giống cốc cà phê espresso, nhưng hiệu quả không được như mong đợi. Thỉnh thoảng AI vẫn nhận ra đó là bóng chày, mặc dù phần lớn kết quả là hình ảnh cốc espresso
Họ chia sẻ: "Công trình nghiên cứu của chúng tôi cho thấy tại sao những hình ảnh đối nghịch đang ngày càng trở thành một vấn đề nghiêm trọng đối với thế giới thực tại". Khi mà AI trong máy móc ngày càng phổ biến, việc để xảy ra những sai sót như này là điều cực kỳ đáng lo ngại đó các bạn ơi!
Hiện nay các nhà khoa học đang xem xét khả năng áp dụng hệ thống giám sát và phát hiện vũ khí nguy hiểm ngay từ camera CCTV. Việc hệ thống nhầm con rùa với súng có thể gây báo động giả vô hại, nhưng nếu đảo ngược lại - một khẩu súng bị hiểu nhầm là con rùa thì hậu quả sẽ nghiêm trọng đến mức nào?
Thực tế vẫn còn nhiều vấn đề chưa được giải đáp. Điều quan trọng là cách thức "đánh lừa" AI hiện nay chỉ thành công với từng hệ thống riêng lẻ, và cần phải có quyền truy cập toàn bộ hệ thống mới kích hoạt được. Nói dễ hiểu là thí nghiệm này chỉ work với AI của Google, chứ không thể dùng cho Facebook hay Amazon. Tuy nhiên đã có người thử phát triển những cuộc tấn công ảo với quy mô nhỏ hơn nhưng có tác dụng với nhiều loại AI khác, bằng cách dùng công nghệ có tính ứng dụng cao.
Phản ứng lại thí nghiệm này, cả Facebook và Google đều đăng tải những nghiên cứu mới nhất, trong đó nêu rõ họ đang xem xét vấn đề này một cách nghiêm túc và sẽ đưa ra giải pháp để tăng cường bảo mật hệ thống của mình. Let's see họ sẽ fix bug này như thế nào nhé!
Nguồn: kenh14.vn