Dạo gần đây trên mạng xã hội xuất hiện một làn sóng quảng cáo deepfake AI về các idol K-pop khiến cả cộng đồng fan phải nổi da gà Theo Korea Times đưa tin, những video deepfake do AI tạo ra đang làm dấy lên mối lo ngại cực lớn về việc công nghệ bị lạm dụng để tạo nội dung 18+ nhắm vào các ngôi sao nổi tiếng.
Những quảng cáo này gần đây viral khắp các platform như TikTok và Instagram, khiến netizen phẫn nộ tột độ. Các app được quảng cáo có chức năng tạo video hai người hôn nhau bằng AI, rồi "mời gọi" người dùng up ảnh của mình cùng ảnh idol để tạo clip fake. Screenshot của những quảng cáo này lan truyền chóng mặt, còn fan K-pop thì cảm thấy cực kỳ khó chịu và lo lắng khi thấy chúng xuất hiện ngày càng nhiều
Theo pháp luật Hàn Quốc, việc tạo, chỉnh sửa, phát tán hoặc đe dọa phát tán nội dung 18+ không có sự đồng ý bằng công nghệ số như AI là hành vi phạm tội nghiêm trọng. Nhưng bất chấp khung pháp lý đó, tội phạm deepfake vẫn tăng chóng mặt những năm gần đây ở xứ kim chi, trở thành mối đe dọa cấp bách nhất đối với các idol. Mấy vụ này thường xuất phát từ hành vi stalker của anti-fan hoặc những người cố tình muốn hại nghệ sĩ
Chỉ riêng tháng trước thôi, cảnh sát Hàn Quốc đã bắt giữ hàng chục nam giới từ tuổi teen đến 20-30 tuổi vì tạo hoặc chia sẻ các video 18+ deepfake có sự xuất hiện của người nổi tiếng trên Internet.
Theo chính quyền nước này, vào ngày 11 tháng 4, 23 người điều hành phòng chat Telegram đã bị bắt với cáo buộc vi phạm Đạo luật bảo vệ trẻ vị thành niên và Đạo luật về các trường hợp đặc biệt liên quan đến tội phạm tình dục. 13 nghi phạm bị truy tố chính thức, còn 60 người dùng khác tình nghi tham gia phòng chat cũng bị bắt luôn.
Trước tình hình căng thẳng này, các công ty giải trí đã bắt đầu hành động mạnh tay hơn để bảo vệ nghệ sĩ nhà mình Cùng ngày cảnh sát công bố vụ bắt giữ, "ông lớn" HYBE xác nhận một số nghi phạm đã nhắm vào các nghệ sĩ của công ty. HYBE cho biết bước đột phá này là nhờ hợp tác chặt chẽ với cơ quan thực thi pháp luật, bao gồm cả đường dây nóng trực tiếp với cảnh sát.
Theo HYBE, công ty đã ký biên bản ghi nhớ (MOU) với Cảnh sát Bắc Gyeonggi vào ngày 25 tháng 2 để giải quyết các tội phạm deepfake. Kể từ đó, công ty liên tục report nội dung vi phạm cho chính quyền và chia sẻ thông tin để support điều tra.
"Chúng tôi sẽ tiếp tục ứng phó với các tội phạm xâm phạm quyền hình ảnh và phẩm giá các nghệ sĩ của chúng tôi bằng thái độ không khoan nhượng" - CEO của HYBE Lee Jae-sang tuyên bố rõ ràng.
Vài ngày sau, Cube Entertainment - công ty quản lý nhóm nữ (G)I-DLE cũng lên tiếng hành động pháp lý để đáp trả các video bị edit và hành vi lạm dụng trực tuyến nhắm vào các thành viên. Vào ngày 18 tháng 4, công ty đưa ra tuyên bố xử lý nội dung 18+ và các cuộc tấn công mạng vào nhóm.
"Chúng tôi hiện đang thu thập bằng chứng và chuẩn bị mọi hành động pháp lý dân sự và hình sự có thể thông qua đại diện pháp lý của mình" - công ty thông báo.
Cube cũng nhấn mạnh rằng bất kỳ ai phát tán video bị chỉnh sửa hoặc đăng nội dung phỉ báng sẽ phải đối mặt với hậu quả pháp lý đầy đủ, không có khoan hồng hay thương lượng gì cả
Theo luật pháp Hàn Quốc, việc tạo hoặc phát tán nội dung deepfake 18+ có thể bị phạt tù lên đến 7 năm hoặc phạt tiền lên tới 50 triệu won (khoảng 35.700 USD). Nếu làm vì mục đích kiếm lời thì hình phạt còn nặng hơn - tối thiểu 3 năm tù. Thậm chí chỉ sở hữu, mua, lưu trữ hay xem nội dung đó cũng có thể bị phạt tù đến 3 năm hoặc phạt tiền tới 30 triệu won
Nguồn: tiin.vn