Trí tuệ nhân tạo (AI) vốn được xem là siêu phẩm công nghệ giúp đời, từ y tế đến khoa học đều xịn sò. Nhưng plot twist là nó cũng là con dao hai lưỡi cực mạnh khi rơi vào tay bọn scammer luôn nha!
Hiện tại ở thị trường thương mại điện tử siêu to khổng lồ bên Trung Quốc, các chủ shop online đang phải "gánh team" với những khoản lỗ khủng khiếp. Nguyên nhân? Một kiểu lừa đảo hoàn tiền mới toanh dựa trên ảnh AI chỉnh sửa cực đỉnh
Chính sách tốt bụng thành... lỗ hổng khổng lồ
Tất cả bắt nguồn từ một chính sách bảo vệ khách hàng khá phổ biến ở Trung Quốc: khách được hoàn tiền mà không cần trả hàng, miễn là có ảnh chứng minh hàng lỗi hoặc không đạt chất lượng. Nghe thì hợp lý đúng không? Nhưng khi AI xuất hiện, mọi chuyện đã khác xưa rồi
Bọn lừa đảo đang sử dụng công cụ AI để tạo ra những bức ảnh fake với độ chân thực kinh dị luôn á! Táo bị mốc, rau củ héo úa, bát sứ nứt vỡ, quần áo rách nát... tất cả đều do AI "vẽ" ra y chang thật 100%
Vấn đề còn nghiêm trọng hơn khi quy trình duyệt hoàn tiền được tự động hóa hoàn toàn. Chỉ cần thuật toán thấy ảnh đủ "real", yêu cầu hoàn tiền được approve ngay lập tức mà không cần con người can thiệp!
Chủ shop bất lực trước chiêu trò AI đỉnh cao
AI bây giờ xịn đến nỗi mắt thường khó mà phân biệt được đâu là ảnh thật, đâu là ảnh fake. Ông Chen - chủ một shop rau củ tại Gia Hưng là một trong những nạn nhân điển hình. Chỉ trong 3 tháng, shop của ông phải xử lý tận 9 đơn trả hàng đáng ngờ
Ban đầu vì tin tưởng khách hàng nên ông Chen cứ hoàn tiền thôi. Nhưng khi tần suất trả hàng tăng bất thường, ông mới nghi ngờ và soi kỹ các bức ảnh. Dù phát hiện dấu hiệu chỉnh sửa kỹ thuật số, nhưng khi khiếu nại lên sàn thương mại điện tử thì bị từ chối phũ phàng. Lý do? "Chưa đủ bằng chứng để kết luận ảnh bị AI can thiệp"
Các chủ shop như ông Chen đành phải ngậm ngùi chịu trận, mất tiền oan uổng vô cùng.
Cuộc chiến công nghệ chưa thấy hồi kết
Trước tình hình nóng hổi này, một số trang web mua sắm đã bắt đầu triển khai công cụ phát hiện ảnh AI và dán nhãn cảnh báo. Nhưng thật ra các nền tảng này cũng thú nhận là không thể đảm bảo độ chính xác 100% được đâu
Về mặt pháp lý, tháng 9 vừa rồi chính quyền Trung Quốc đã ban hành "Biện pháp tạm thời về quản lý dịch vụ tạo nội dung bằng trí tuệ nhân tạo". Quy định này bắt buộc nội dung do AI tạo phải được dán nhãn rõ ràng (như watermark) và cả nhãn chìm trong dữ liệu. Mặc dù hành vi xóa các nhãn này bị cấm nghiêm, nhưng thực tế việc phát hiện và xử lý những kẻ cố tình xóa dấu vết vẫn là thách thức cực lớn.
Nguồn: genk.vn