HanPho7121
New member
Các video bão lũ fake được gen bằng AI đang cực kỳ viral trên MXH với lượt view khủng, lợi dụng lòng thương cảm của netizen dành cho đồng bào vùng lũ
Trong đợt mưa lũ kéo dài ở miền Trung vừa rồi, hàng loạt video giả được tạo bởi AI đã tràn lan khắp mạng xã hội. Nội dung các clip này chủ yếu là hình ảnh người dân bị mắc kẹt, lũ cuốn trôi nhà cửa, cảnh cứu hộ khẩn cấp... thậm chí còn xuyên tạc tình hình và công kích lực lượng chức năng luôn.
Điểm đáng báo động là những video giả này đã thu hút từ hàng trăm ngàn đến hàng triệu lượt xem và chia sẻ. Lý do? Chúng đánh thẳng vào cảm xúc của người xem với những cảnh gây xúc động mạnh như cậu bé ôm chó trên mái nhà giữa biển nước, người dân vật lộn trong dòng lũ dữ...
Không ít tài khoản đã lợi dụng sự thương cảm này để "câu" tương tác, bán hàng hoặc thậm chí kích động dư luận. Việc mọi người chia sẻ lung tung những hình ảnh không rõ nguồn gốc đã khiến tin giả lan nhanh với tốc độ ánh sáng và gây hiểu lầm cực kỳ nghiêm trọng về tình hình thực tế.
Plot twist là mặc dù đây 100% là sản phẩm của AI nhưng khi đăng lên các nền tảng mạng xã hội thì... lại không bị dán nhãn AI nào cả!
Ông Lê Anh Bằng, Giám đốc Giải pháp Khách hàng Công ty CP Công nghệ Haravan, cho rằng việc nhiều video được tạo hoặc can thiệp bằng AI nhưng không hiển thị nhãn "AI-generated" trên TikTok, Facebook có thể do sự thay đổi trong cách các nền tảng nhận diện và phân loại nội dung.
Theo ông Bằng, nếu một video được tạo hoàn toàn 100% bằng AI thì khả năng bị phát hiện và gắn nhãn vẫn còn cao. Tuy nhiên, với các content có sự tham gia của con người - ví dụ như dùng hình ảnh, video thật rồi nhờ AI hỗ trợ cắt ghép, dựng cảnh hoặc tạo chuyển động - hệ thống rất khó để xác định ranh giới giữa "nội dung do AI tạo ra" và "nội dung có AI hỗ trợ".
Chính sự mập mờ này đã khiến nhiều video có yếu tố AI vẫn được hiển thị như những clip thông thường, không kèm theo bất kỳ cảnh báo nào.
Ông Bằng cũng chỉ ra rằng công nghệ AI hiện nay đang phát triển với tốc độ chóng mặt, trong khi các nền tảng cần thời gian để cập nhật thuật toán và xây dựng bộ tiêu chí nhận diện mới.
Trong khi phần lớn content trên môi trường số hiện nay đều đã có sự tham gia của AI rồi, hành lang pháp lý vẫn đang trong quá trình hoàn thiện, nên việc kiểm soát hoàn toàn là cực kỳ khó khăn.
Vì vậy, mỗi người dùng mạng xã hội cần thận trọng hơn nữa trong việc tiếp nhận và chia sẻ thông tin nhé! Bởi vì chỉ một cú nhấp chuột thiếu kiểm chứng cũng có thể vô tình tiếp tay cho tin giả lan rộng đấy
Một nghiên cứu của HostingAdvice, đơn vị nghiên cứu có trụ sở tại Mỹ, cho thấy 58% người Mỹ từ 18 - 43 tuổi từng bị lừa bởi nội dung do AI tạo ra. Con số này cảnh báo mức độ nguy hiểm ngày càng tăng của tin giả, đồng thời đang dần bào mòn niềm tin về thông tin trên các nền tảng MXH.
Nguồn: soha.vn
Trong đợt mưa lũ kéo dài ở miền Trung vừa rồi, hàng loạt video giả được tạo bởi AI đã tràn lan khắp mạng xã hội. Nội dung các clip này chủ yếu là hình ảnh người dân bị mắc kẹt, lũ cuốn trôi nhà cửa, cảnh cứu hộ khẩn cấp... thậm chí còn xuyên tạc tình hình và công kích lực lượng chức năng luôn.
Điểm đáng báo động là những video giả này đã thu hút từ hàng trăm ngàn đến hàng triệu lượt xem và chia sẻ. Lý do? Chúng đánh thẳng vào cảm xúc của người xem với những cảnh gây xúc động mạnh như cậu bé ôm chó trên mái nhà giữa biển nước, người dân vật lộn trong dòng lũ dữ...
Không ít tài khoản đã lợi dụng sự thương cảm này để "câu" tương tác, bán hàng hoặc thậm chí kích động dư luận. Việc mọi người chia sẻ lung tung những hình ảnh không rõ nguồn gốc đã khiến tin giả lan nhanh với tốc độ ánh sáng và gây hiểu lầm cực kỳ nghiêm trọng về tình hình thực tế.
Plot twist là mặc dù đây 100% là sản phẩm của AI nhưng khi đăng lên các nền tảng mạng xã hội thì... lại không bị dán nhãn AI nào cả!
Ông Lê Anh Bằng, Giám đốc Giải pháp Khách hàng Công ty CP Công nghệ Haravan, cho rằng việc nhiều video được tạo hoặc can thiệp bằng AI nhưng không hiển thị nhãn "AI-generated" trên TikTok, Facebook có thể do sự thay đổi trong cách các nền tảng nhận diện và phân loại nội dung.
Theo ông Bằng, nếu một video được tạo hoàn toàn 100% bằng AI thì khả năng bị phát hiện và gắn nhãn vẫn còn cao. Tuy nhiên, với các content có sự tham gia của con người - ví dụ như dùng hình ảnh, video thật rồi nhờ AI hỗ trợ cắt ghép, dựng cảnh hoặc tạo chuyển động - hệ thống rất khó để xác định ranh giới giữa "nội dung do AI tạo ra" và "nội dung có AI hỗ trợ".
Chính sự mập mờ này đã khiến nhiều video có yếu tố AI vẫn được hiển thị như những clip thông thường, không kèm theo bất kỳ cảnh báo nào.
Ông Bằng cũng chỉ ra rằng công nghệ AI hiện nay đang phát triển với tốc độ chóng mặt, trong khi các nền tảng cần thời gian để cập nhật thuật toán và xây dựng bộ tiêu chí nhận diện mới.
Trong khi phần lớn content trên môi trường số hiện nay đều đã có sự tham gia của AI rồi, hành lang pháp lý vẫn đang trong quá trình hoàn thiện, nên việc kiểm soát hoàn toàn là cực kỳ khó khăn.
Vì vậy, mỗi người dùng mạng xã hội cần thận trọng hơn nữa trong việc tiếp nhận và chia sẻ thông tin nhé! Bởi vì chỉ một cú nhấp chuột thiếu kiểm chứng cũng có thể vô tình tiếp tay cho tin giả lan rộng đấy
Một nghiên cứu của HostingAdvice, đơn vị nghiên cứu có trụ sở tại Mỹ, cho thấy 58% người Mỹ từ 18 - 43 tuổi từng bị lừa bởi nội dung do AI tạo ra. Con số này cảnh báo mức độ nguy hiểm ngày càng tăng của tin giả, đồng thời đang dần bào mòn niềm tin về thông tin trên các nền tảng MXH.
Nguồn: soha.vn