Ối giời ơi, drama nghiêm trọng đang gây chấn động cộng đồng mạng Hàn Quốc những ngày qua! Hơn 200 nữ thần tượng Kpop bị phát hiện xuất hiện trong các video deepfake 18+, và đáng sợ hơn là cả nạn nhân lẫn thủ phạm nhiều em còn vị thành niên luôn á!
Sự việc bắt nguồn từ việc phát hiện cả một mạng lưới phòng chat trên Telegram với hơn 212.000 thành viên (con số khủng ghê ). Để vào được các phòng này, người ta phải... gửi ảnh của bất kỳ cô gái nào - có thể là bạn học, chị em ruột hay bạn bè - kèm theo thông tin cá nhân của người đó. Nghe mà rùng mình luôn!
Trong các phòng chat này tràn ngập hình ảnh, video không lành mạnh làm nhục nạn nhân. Và plot twist: cư dân mạng đã tìm ra bằng chứng hàng trăm nữ idol cũng là nạn nhân của những video deepfake 18+ này.
Deepfake là gì mà nguy hiểm vậy?
Nói đơn giản thì deepfake là công nghệ AI "thần thánh" có thể chỉnh sửa ảnh, video, thậm chí cả giọng nói từ nội dung trên mạng xã hội mà không cần sự đồng ý của chủ nhân. Nghe càng tưởng tượng càng creepy nhỉ!
Theo báo cáo của Security Hero do Wall Street Journal chia sẻ, Hàn Quốc đang dẫn đầu về tội phạm phát tán nội dung 18+ bất hợp pháp trên không gian số Sau khi phân tích 96.000 video từ 10 trang web deepfake và 85 kênh trên các nền tảng chia sẻ video trong hai tháng, con số gây sốc là: 53% nhân vật xuất hiện trong các video deepfake 18+ là ca sĩ và diễn viên Hàn Quốc!
Một trang web có tên của hơn 200 nữ idol Kpop từ đủ mọi nhóm nhạc đã lan truyền trên Twitter (giờ là X). Toàn bộ hình ảnh trên đó đều đã qua chỉnh sửa ghê rợn. Còn có nhiều trang khác sử dụng công nghệ deepfake để ghép mặt nạn nhân vào các nội dung không lành mạnh. Một số content còn phải trả phí mới xem được - đỉnh cao vô liêm sỉ!
Dân mạng giờ phẫn nộ cực độ, kêu gọi các công ty giải trí phải hành động ngay để bảo vệ nghệ sĩ nhà mình.
Chính quyền Hàn Quốc đã vào cuộc! Tổng thống Yoon Suk Yeol kêu gọi tăng cường trấn áp tội phạm tình dục kỹ thuật số, đặc biệt là những vụ liên quan đến deepfake do AI tạo ra.
"Các video deepfake nhắm vào những cá nhân không xác định đã lan truyền nhanh chóng trên mạng xã hội. Nhiều nạn nhân là trẻ vị thành niên và hầu hết thủ phạm cũng được xác định là thanh thiếu niên" - Tổng thống Yoon Suk Yeol phát biểu.
Con số thống kê càng đáng lo: cảnh sát đã ghi nhận 297 vụ phạm tội deepfake liên quan đến nội dung tình dục trong 7 tháng đầu năm nay, tăng từ 180 vụ năm ngoái và gần gấp đôi năm 2021. Trong số 178 người bị buộc tội, có tới 113 người là thanh thiếu niên!
Mới đây nhất, ngày 28/8, một tên tội phạm deepfake đã bị kết án 5 năm tù vì sản xuất khoảng 400 video 18+ giả mạo và phát tán khoảng 1.700 video tương tự lên mạng xã hội.
Nhắc lại vụ chấn động năm 2020, thủ phạm đứng sau đường dây deepfake khét tiếng - Cho Ju Bin - đã bị kết án 42 năm tù vì tống tiền ít nhất 74 phụ nữ, trong đó có 16 vị thành niên. Y gửi những hình ảnh 18+ mang tính hạ nhục, gây tổn thương tinh thần nghiêm trọng cho nạn nhân.
Theo luật pháp Hàn Quốc hiện tại, hành vi tạo video deepfake có nội dung 18+ với mục đích phát tán sẽ bị phạt tù tới 5 năm hoặc phạt hành chính 50 triệu won (khoảng 37.500 USD), theo The Guardian đưa tin.
Không chỉ riêng Hàn Quốc!
Hồi tháng 3, Channel 4 News công bố kết quả điều tra 5 trang web deepfake được truy cập nhiều nhất và phát hiện gần 4.000 người nổi tiếng bị lợi dụng, trong đó có 255 người Anh.
Danh sách nạn nhân bao gồm các nữ diễn viên, ngôi sao truyền hình, nhạc sĩ và cả YouTuber nổi tiếng. Khuôn mặt của họ bị ghép vào nội dung 18+ bằng AI - nghĩ mà muốn ớn luôn!
Và bạn biết không? 5 trang web này đã nhận được tới 100 triệu lượt xem chỉ trong vòng ba tháng! Con số khủng khiếp!
Người dẫn chương trình Channel 4 News - Cathy Newman, một trong 4.000 nạn nhân, đã chia sẻ: "Cảm giác như bị xâm phạm. Rất đáng sợ khi có người ngoài kia dựng nên chuyện này, tôi không thể nhìn thấy họ, và họ có thể nhìn thấy phiên bản tưởng tượng, giả mạo này của tôi".
Các ông lớn công nghệ đang làm gì?
Các nền tảng mạng xã hội đã bắt đầu thực hiện biện pháp bảo vệ người dùng, dù vẫn còn nhiều lỗ hổng. Người phát ngôn của Google cho biết: "Chúng tôi hiểu nội dung này có thể gây đau buồn như thế nào. Chúng tôi cam kết sẽ phát huy các biện pháp bảo vệ hiện có để giúp đỡ những người bị ảnh hưởng".
Ryan Daniels từ Meta (công ty sở hữu Facebook và Instagram) cũng lên tiếng: "Meta nghiêm cấm hình ảnh khỏa thân của trẻ em, nội dung 18+ hóa trẻ em và các dịch vụ cung cấp hình ảnh khỏa thân không được sự đồng ý do AI tạo ra. Mặc dù deepfake vẫn có sẵn trên nhiều ứng dụng, chúng tôi đã xóa các quảng cáo này và các tài khoản đằng sau chúng".
Nguồn: kenh14.vn
Sự việc bắt nguồn từ việc phát hiện cả một mạng lưới phòng chat trên Telegram với hơn 212.000 thành viên (con số khủng ghê ). Để vào được các phòng này, người ta phải... gửi ảnh của bất kỳ cô gái nào - có thể là bạn học, chị em ruột hay bạn bè - kèm theo thông tin cá nhân của người đó. Nghe mà rùng mình luôn!
Trong các phòng chat này tràn ngập hình ảnh, video không lành mạnh làm nhục nạn nhân. Và plot twist: cư dân mạng đã tìm ra bằng chứng hàng trăm nữ idol cũng là nạn nhân của những video deepfake 18+ này.
Deepfake là gì mà nguy hiểm vậy?
Nói đơn giản thì deepfake là công nghệ AI "thần thánh" có thể chỉnh sửa ảnh, video, thậm chí cả giọng nói từ nội dung trên mạng xã hội mà không cần sự đồng ý của chủ nhân. Nghe càng tưởng tượng càng creepy nhỉ!
Theo báo cáo của Security Hero do Wall Street Journal chia sẻ, Hàn Quốc đang dẫn đầu về tội phạm phát tán nội dung 18+ bất hợp pháp trên không gian số Sau khi phân tích 96.000 video từ 10 trang web deepfake và 85 kênh trên các nền tảng chia sẻ video trong hai tháng, con số gây sốc là: 53% nhân vật xuất hiện trong các video deepfake 18+ là ca sĩ và diễn viên Hàn Quốc!
Một trang web có tên của hơn 200 nữ idol Kpop từ đủ mọi nhóm nhạc đã lan truyền trên Twitter (giờ là X). Toàn bộ hình ảnh trên đó đều đã qua chỉnh sửa ghê rợn. Còn có nhiều trang khác sử dụng công nghệ deepfake để ghép mặt nạn nhân vào các nội dung không lành mạnh. Một số content còn phải trả phí mới xem được - đỉnh cao vô liêm sỉ!
Dân mạng giờ phẫn nộ cực độ, kêu gọi các công ty giải trí phải hành động ngay để bảo vệ nghệ sĩ nhà mình.
Chính quyền Hàn Quốc đã vào cuộc! Tổng thống Yoon Suk Yeol kêu gọi tăng cường trấn áp tội phạm tình dục kỹ thuật số, đặc biệt là những vụ liên quan đến deepfake do AI tạo ra.
"Các video deepfake nhắm vào những cá nhân không xác định đã lan truyền nhanh chóng trên mạng xã hội. Nhiều nạn nhân là trẻ vị thành niên và hầu hết thủ phạm cũng được xác định là thanh thiếu niên" - Tổng thống Yoon Suk Yeol phát biểu.
Con số thống kê càng đáng lo: cảnh sát đã ghi nhận 297 vụ phạm tội deepfake liên quan đến nội dung tình dục trong 7 tháng đầu năm nay, tăng từ 180 vụ năm ngoái và gần gấp đôi năm 2021. Trong số 178 người bị buộc tội, có tới 113 người là thanh thiếu niên!
Mới đây nhất, ngày 28/8, một tên tội phạm deepfake đã bị kết án 5 năm tù vì sản xuất khoảng 400 video 18+ giả mạo và phát tán khoảng 1.700 video tương tự lên mạng xã hội.
Nhắc lại vụ chấn động năm 2020, thủ phạm đứng sau đường dây deepfake khét tiếng - Cho Ju Bin - đã bị kết án 42 năm tù vì tống tiền ít nhất 74 phụ nữ, trong đó có 16 vị thành niên. Y gửi những hình ảnh 18+ mang tính hạ nhục, gây tổn thương tinh thần nghiêm trọng cho nạn nhân.
Theo luật pháp Hàn Quốc hiện tại, hành vi tạo video deepfake có nội dung 18+ với mục đích phát tán sẽ bị phạt tù tới 5 năm hoặc phạt hành chính 50 triệu won (khoảng 37.500 USD), theo The Guardian đưa tin.
Không chỉ riêng Hàn Quốc!
Hồi tháng 3, Channel 4 News công bố kết quả điều tra 5 trang web deepfake được truy cập nhiều nhất và phát hiện gần 4.000 người nổi tiếng bị lợi dụng, trong đó có 255 người Anh.
Danh sách nạn nhân bao gồm các nữ diễn viên, ngôi sao truyền hình, nhạc sĩ và cả YouTuber nổi tiếng. Khuôn mặt của họ bị ghép vào nội dung 18+ bằng AI - nghĩ mà muốn ớn luôn!
Và bạn biết không? 5 trang web này đã nhận được tới 100 triệu lượt xem chỉ trong vòng ba tháng! Con số khủng khiếp!
Người dẫn chương trình Channel 4 News - Cathy Newman, một trong 4.000 nạn nhân, đã chia sẻ: "Cảm giác như bị xâm phạm. Rất đáng sợ khi có người ngoài kia dựng nên chuyện này, tôi không thể nhìn thấy họ, và họ có thể nhìn thấy phiên bản tưởng tượng, giả mạo này của tôi".
Các ông lớn công nghệ đang làm gì?
Các nền tảng mạng xã hội đã bắt đầu thực hiện biện pháp bảo vệ người dùng, dù vẫn còn nhiều lỗ hổng. Người phát ngôn của Google cho biết: "Chúng tôi hiểu nội dung này có thể gây đau buồn như thế nào. Chúng tôi cam kết sẽ phát huy các biện pháp bảo vệ hiện có để giúp đỡ những người bị ảnh hưởng".
Ryan Daniels từ Meta (công ty sở hữu Facebook và Instagram) cũng lên tiếng: "Meta nghiêm cấm hình ảnh khỏa thân của trẻ em, nội dung 18+ hóa trẻ em và các dịch vụ cung cấp hình ảnh khỏa thân không được sự đồng ý do AI tạo ra. Mặc dù deepfake vẫn có sẵn trên nhiều ứng dụng, chúng tôi đã xóa các quảng cáo này và các tài khoản đằng sau chúng".
Nguồn: kenh14.vn