Mới đây Lý Hải vừa lên tiếng cảnh báo về tình trạng xuất hiện video AI giả mạo cả hình ảnh lẫn giọng nói của anh để quảng cáo thuốc bổ, tiềm ẩn nguy cơ lừa đảo cực cao, đặc biệt với các bác, cô chú lớn tuổi dễ tin vào những nội dung được dàn dựng siêu tinh vi này.
Ngày 1/5, Lý Hải đã chính thức lên tiếng về việc hàng loạt video sử dụng công nghệ AI để giả mạo hình ảnh và giọng nói của nam ca sĩ nhằm quảng cáo các loại thuốc bổ, sản phẩm mờ ám không rõ nguồn gốc.
Video được dàn dựng tinh vi đến mức người xem cực dễ nhầm lẫn tưởng là nội dung thật do chính nghệ sĩ đăng tải luôn ấy chứ. "Video nhìn rất thật, có thể khiến nhiều người tin, đặc biệt là người lớn tuổi. Tôi lo ngại công nghệ AI ngày càng phát triển và bị lợi dụng cho mục đích lừa đảo", Lý Hái chia sẻ đầy lo lắng.
Nam nghệ sĩ khẳng định toàn bộ nội dung quảng cáo nói trên đều là fake 100%, chưa được kiểm chứng và hoàn toàn không liên quan gì đến Lý Hải cả. Anh đạo diễn kêu gọi khán giả chỉ nên theo dõi thông tin từ các kênh chính thức có tích xanh, đừng có chuyển tiền hay mua hàng qua các đường link lạ hoắc nhé!
Thực ra tình trạng giả mạo nghệ sĩ bằng AI đang có chiều hướng tăng mạnh đáng lo. Hồi đầu tháng 1, công an TP.HCM đã triệu tập hai người liên quan đến việc lan truyền video giả mạo "Quyền Linh bị bắt" gây xôn xao. Qua phân tích kỹ thuật, cơ quan chức năng xác định đây là sản phẩm deepfake dựng bằng AI, sử dụng hình ảnh và âm thanh ngụy tạo nhằm dẫn dắt dư luận theo hướng tiêu cực.
Từ cuối năm ngoái, nhiều fanpage đã liên tục đăng tải các video với nội dung như "bắt khẩn cấp Quyền Linh" hay "MC Quyền Linh bị bắt giữ". Dù một số khán giả tinh ý nhận ra dấu hiệu bất thường ở chuyển động gương mặt, vẫn có không ít người tin sái cổ tưởng đây là thông tin thật. Nam nghệ sĩ sau đó đã phải lên tiếng đính chính gấp, khẳng định mình không liên quan và cảnh báo mọi người cần tỉnh táo trước các nội dung do AI tạo ra.
Làn sóng giả mạo này không dừng lại ở một người đâu nha. Hàng loạt nghệ sĩ như Nhật Kim Anh, Hồ Ngọc Hà, Ngô Thanh Vân, Mỹ Tâm... cũng từng phải lên tiếng khi bị cắt ghép hình ảnh, giọng nói để lan truyền tin fake hoặc quảng cáo sản phẩm kém chất lượng. Trước đó, Đại Nghĩa và Quốc Trường thậm chí phải "kêu cứu" vì bị giả giọng trong các video kêu gọi đầu tư lừa đảo kinh hoàng luôn.
Theo quy định hiện hành, Luật Trí tuệ nhân tạo nghiêm cấm việc sử dụng công nghệ để giả mạo cá nhân, sự kiện nhằm lừa dối hoặc thao túng nhận thức người khác. Các hành vi này không chỉ xâm phạm danh dự, uy tín cá nhân mà còn tiềm ẩn nguy cơ gây thiệt hại tài sản cho người dân nữa đó.
Nguồn: kenh14.vn
Ngày 1/5, Lý Hải đã chính thức lên tiếng về việc hàng loạt video sử dụng công nghệ AI để giả mạo hình ảnh và giọng nói của nam ca sĩ nhằm quảng cáo các loại thuốc bổ, sản phẩm mờ ám không rõ nguồn gốc.
Video được dàn dựng tinh vi đến mức người xem cực dễ nhầm lẫn tưởng là nội dung thật do chính nghệ sĩ đăng tải luôn ấy chứ. "Video nhìn rất thật, có thể khiến nhiều người tin, đặc biệt là người lớn tuổi. Tôi lo ngại công nghệ AI ngày càng phát triển và bị lợi dụng cho mục đích lừa đảo", Lý Hái chia sẻ đầy lo lắng.
Nam nghệ sĩ khẳng định toàn bộ nội dung quảng cáo nói trên đều là fake 100%, chưa được kiểm chứng và hoàn toàn không liên quan gì đến Lý Hải cả. Anh đạo diễn kêu gọi khán giả chỉ nên theo dõi thông tin từ các kênh chính thức có tích xanh, đừng có chuyển tiền hay mua hàng qua các đường link lạ hoắc nhé!
Thực ra tình trạng giả mạo nghệ sĩ bằng AI đang có chiều hướng tăng mạnh đáng lo. Hồi đầu tháng 1, công an TP.HCM đã triệu tập hai người liên quan đến việc lan truyền video giả mạo "Quyền Linh bị bắt" gây xôn xao. Qua phân tích kỹ thuật, cơ quan chức năng xác định đây là sản phẩm deepfake dựng bằng AI, sử dụng hình ảnh và âm thanh ngụy tạo nhằm dẫn dắt dư luận theo hướng tiêu cực.
Từ cuối năm ngoái, nhiều fanpage đã liên tục đăng tải các video với nội dung như "bắt khẩn cấp Quyền Linh" hay "MC Quyền Linh bị bắt giữ". Dù một số khán giả tinh ý nhận ra dấu hiệu bất thường ở chuyển động gương mặt, vẫn có không ít người tin sái cổ tưởng đây là thông tin thật. Nam nghệ sĩ sau đó đã phải lên tiếng đính chính gấp, khẳng định mình không liên quan và cảnh báo mọi người cần tỉnh táo trước các nội dung do AI tạo ra.
Làn sóng giả mạo này không dừng lại ở một người đâu nha. Hàng loạt nghệ sĩ như Nhật Kim Anh, Hồ Ngọc Hà, Ngô Thanh Vân, Mỹ Tâm... cũng từng phải lên tiếng khi bị cắt ghép hình ảnh, giọng nói để lan truyền tin fake hoặc quảng cáo sản phẩm kém chất lượng. Trước đó, Đại Nghĩa và Quốc Trường thậm chí phải "kêu cứu" vì bị giả giọng trong các video kêu gọi đầu tư lừa đảo kinh hoàng luôn.
Theo quy định hiện hành, Luật Trí tuệ nhân tạo nghiêm cấm việc sử dụng công nghệ để giả mạo cá nhân, sự kiện nhằm lừa dối hoặc thao túng nhận thức người khác. Các hành vi này không chỉ xâm phạm danh dự, uy tín cá nhân mà còn tiềm ẩn nguy cơ gây thiệt hại tài sản cho người dân nữa đó.
Nguồn: kenh14.vn