Theo tin từ Jiefang Daily (Thượng Hải), chuyện "seeding" - tức là tung tin, phát tán nội dung trên mạng xã hội đang lên đến đỉnh điểm nhờ AI hỗ trợ. Mấy em AI mới nổi này giờ xịn đến mức có thể tạo ra hơn 4.000 tin nhắn "độc hại" mỗi ngày, thao túng suy nghĩ và quyết định của dân mạng qua hàng loạt comment fake cực kỳ tinh vi luôn!
AI giờ đã len lỏi vào mọi khâu của seeding rồi các bạn ơi, từ việc đăng ký hàng loạt tài khoản mạng xã hội, vượt mặt cả hệ thống xác thực danh tính, cho đến duy trì tài khoản và kiếm tiền từ các bài đăng.
Sự phát triển vù vù của các mô hình AI siêu to khổng lồ mấy năm gần đây đã giúp bọn tung tin đồn online "lên level" khả năng ngụy trang cực mạnh. Chúng dễ dàng cosplay thành người dùng mạng bình thường và tạo ra các bài đăng, comment mang tính kích động còn hơn cả người thật nữa là!
Giám đốc marketing Diệp Tinh từ Geetest (nhà cung cấp dịch vụ bảo mật Internet) cho biết họ đã "combat" với lĩnh vực ngầm này suốt 12 năm trời và đã chặn được tổng cộng 2,17 tỷ cuộc tấn công do "đội quân mạng" được AI hỗ trợ gây ra.
Ông Diệp Tinh phân tích thêm rằng, bọn tung tin đồn có thể tạo ra các đoạn script tự động để sản xuất nội dung hàng loạt. Chúng cố tình thao túng dư luận bằng cách sử dụng các mô hình AI với chi phí thấp mà hiệu quả cao ngất, có khả năng hoạt động 24/7 và làm được nhiều việc cùng lúc.
Trước kia, việc tạo ra 1.000 bình luận hoặc bài đăng có thể mất hàng giờ đồng hồ của nhiều người làm part-time. Nhưng giờ đây, AI có thể hoàn thành nhiệm vụ này chỉ trong vài phút thôi, theo lời của Dương Băng (bút danh), một cựu nhân viên studio.
Chị Dương Băng cho biết những người đăng bài trả phí có thể được thuê bởi các nhà đầu tư phim hoặc fan của diễn viên. Nội dung họ tung ra chỉ nhằm mục đích đạt được mục tiêu của người thuê, tạo ra sự cường điệu hoặc "dìm hàng" đối thủ. Drama phết đây!
Vào tháng 6/2024, công an Nam Xương (Giang Tây) đã điều tra một vụ án liên quan đến việc lan truyền tin đồn và thông tin bịa đặt gây rối trật tự công cộng. Các nghi phạm đã tạo ra một lượng khổng lồ bài viết với tốc độ "gắt" không tưởng, lên tới 4.000 đến 7.000 bài mỗi ngày bằng phần mềm AI. Theo báo cáo của Đài Truyền hình Trung ương Trung Quốc, ước tính sơ bộ doanh thu của chúng vượt quá 10.000 nhân dân tệ (1.382 USD) mỗi ngày luôn!
Giáo sư Từ Tiểu Kha tại Trung tâm Nghiên cứu Truyền thông Tính toán (Chu Hải), Trường Báo chí và Truyền thông, Đại học Sư phạm Bắc Kinh nhận định rằng trước đây việc phân biệt người đăng bài thật và AI khá dễ dàng dựa vào IP điện thoại và vị trí địa lý. Tuy nhiên, những phương pháp này không còn "ăn thua" với các đối tượng sử dụng thuật toán để tạo nội dung hàng loạt và mô phỏng hành vi của người dùng thật.
Để đối phó với tình trạng nghiêm trọng này, Trung Quốc đã ban hành bộ hướng dẫn về việc gắn nhãn nội dung Internet do AI tạo ra, có hiệu lực từ ngày 1/9. Hướng dẫn này yêu cầu các nhà cung cấp phải thêm nhãn rõ ràng vào nội dung ở các vị trí thích hợp trong suốt quá trình sản xuất và phổ biến.
Nguồn: kenh14.vn
AI giờ đã len lỏi vào mọi khâu của seeding rồi các bạn ơi, từ việc đăng ký hàng loạt tài khoản mạng xã hội, vượt mặt cả hệ thống xác thực danh tính, cho đến duy trì tài khoản và kiếm tiền từ các bài đăng.
Sự phát triển vù vù của các mô hình AI siêu to khổng lồ mấy năm gần đây đã giúp bọn tung tin đồn online "lên level" khả năng ngụy trang cực mạnh. Chúng dễ dàng cosplay thành người dùng mạng bình thường và tạo ra các bài đăng, comment mang tính kích động còn hơn cả người thật nữa là!
Giám đốc marketing Diệp Tinh từ Geetest (nhà cung cấp dịch vụ bảo mật Internet) cho biết họ đã "combat" với lĩnh vực ngầm này suốt 12 năm trời và đã chặn được tổng cộng 2,17 tỷ cuộc tấn công do "đội quân mạng" được AI hỗ trợ gây ra.
Ông Diệp Tinh phân tích thêm rằng, bọn tung tin đồn có thể tạo ra các đoạn script tự động để sản xuất nội dung hàng loạt. Chúng cố tình thao túng dư luận bằng cách sử dụng các mô hình AI với chi phí thấp mà hiệu quả cao ngất, có khả năng hoạt động 24/7 và làm được nhiều việc cùng lúc.
Trước kia, việc tạo ra 1.000 bình luận hoặc bài đăng có thể mất hàng giờ đồng hồ của nhiều người làm part-time. Nhưng giờ đây, AI có thể hoàn thành nhiệm vụ này chỉ trong vài phút thôi, theo lời của Dương Băng (bút danh), một cựu nhân viên studio.
Chị Dương Băng cho biết những người đăng bài trả phí có thể được thuê bởi các nhà đầu tư phim hoặc fan của diễn viên. Nội dung họ tung ra chỉ nhằm mục đích đạt được mục tiêu của người thuê, tạo ra sự cường điệu hoặc "dìm hàng" đối thủ. Drama phết đây!
Vào tháng 6/2024, công an Nam Xương (Giang Tây) đã điều tra một vụ án liên quan đến việc lan truyền tin đồn và thông tin bịa đặt gây rối trật tự công cộng. Các nghi phạm đã tạo ra một lượng khổng lồ bài viết với tốc độ "gắt" không tưởng, lên tới 4.000 đến 7.000 bài mỗi ngày bằng phần mềm AI. Theo báo cáo của Đài Truyền hình Trung ương Trung Quốc, ước tính sơ bộ doanh thu của chúng vượt quá 10.000 nhân dân tệ (1.382 USD) mỗi ngày luôn!
Giáo sư Từ Tiểu Kha tại Trung tâm Nghiên cứu Truyền thông Tính toán (Chu Hải), Trường Báo chí và Truyền thông, Đại học Sư phạm Bắc Kinh nhận định rằng trước đây việc phân biệt người đăng bài thật và AI khá dễ dàng dựa vào IP điện thoại và vị trí địa lý. Tuy nhiên, những phương pháp này không còn "ăn thua" với các đối tượng sử dụng thuật toán để tạo nội dung hàng loạt và mô phỏng hành vi của người dùng thật.
Để đối phó với tình trạng nghiêm trọng này, Trung Quốc đã ban hành bộ hướng dẫn về việc gắn nhãn nội dung Internet do AI tạo ra, có hiệu lực từ ngày 1/9. Hướng dẫn này yêu cầu các nhà cung cấp phải thêm nhãn rõ ràng vào nội dung ở các vị trí thích hợp trong suốt quá trình sản xuất và phổ biến.
Nguồn: kenh14.vn