Vào ngày 15/7/2025, một nhà nghiên cứu bảo mật mạng có nickname "blurrylogic" đã phát hiện ra lỗ hổng nguy hiểm của AI Gemini trong Gmail. Cụ thể là con AI này có thể bị hack để tóm tắt email lừa đảo như thật luôn á! Phát hiện này đã được gửi đến 0din - chương trình săn bug của Mozilla Foundation dành riêng cho các ứng dụng AI.
Cơ chế lừa đảo này hoạt động như nào? Hacker có thể chèn các câu lệnh lừa đảo vào nội dung email dưới dạng HTML (hoặc văn bản ẩn bằng màu chữ vô hình - kiểu chữ trắng trên nền trắng ấy). Gemini sẽ "ngây thơ" hiểu đó là mệnh lệnh thật và hiển thị chúng trong phần tóm tắt email mà không hề có warning gì cho người dùng cả!
Điều nguy hiểm là do câu lệnh lừa đảo được ẩn kín trong email gốc nên người dùng rất khó phát hiện ra. Thế là dân tình sẽ tưởng đó là cảnh báo do chính Gemini tạo ra và... tin luôn! Nhà nghiên cứu blurrylogic chỉ ra rằng Gemini có thể bị khai thác để hiển thị tin nhắn buộc người nhận chia sẻ thông tin nhạy cảm mà không verify kỹ, dẫn đến việc mất tài khoản, mất thông tin đăng nhập ez.
Sau khi vụ này được chia sẻ rầm rộ, Google đã nhanh chóng lên tiếng và chia sẻ chi tiết về các bước họ đã làm để giúp AI Gemini "thông minh" hơn trước những chiêu lừa đảo kiểu này:
- Liên tục cập nhật kho dữ liệu về các lời nhắc hoặc chỉ dẫn độc hại có thể thao túng đầu ra của Gemini
- Training liên tục các mô hình machine learning để đảm bảo AI không phản hồi các chỉ dẫn độc hại
- Gemini sẽ nhận diện các link đáng ngờ (hoặc giả mạo thành link hữu ích) trong nội dung email và xóa luôn khỏi phần tóm tắt
Mặc dù Google cũng chia sẻ là chưa ghi nhận hacker nào thực hiện chiêu trò lừa đảo này ngoài thực tế, nhưng chúng ta vẫn phải cẩn thận trước những chỉ dẫn lạ yêu cầu cung cấp thông tin nhạy cảm nhé! Phải luôn double check và cảnh giác khi AI Gemini yêu cầu các hành động như click vào link, thực hiện cuộc gọi hoặc gửi email cho một đối tượng cụ thể.
Nguồn: tinhte.vn