Cộng đồng mạng đang xôn xao về vụ việc này nè các bạn ơi!
Mấy hôm nay, hội F tại Việt Nam và khắp thế giới đang "té ngửa" khi dùng công cụ search của Meta (Facebook) đấy.
Thay vì hiện những trend hay video hot khi gõ từ khóa siêu thông dụng là "vi*", hệ thống lại trả về cả một list dài ngoằng các video... người lớn luôn ạ
Đáng hoảng hơn nữa là trên app di động, những video này còn tự động play kèm âm thanh ngay khi hiện lên màn hình, gây ra không biết bao nhiêu tình huống "cười ra nước mắt" cho hội văn phòng hoặc ai đang có trẻ con xung quanh
Đây không phải lần đầu tiên công cụ search của Meta để lộ lỗ hổng chết người này đâu nhé. Cuối năm ngoái, sự cố tương tự cũng từng xảy ra khi người dùng chỉ cần gõ các ký tự đơn lẻ như "b", "c" hay "x" là thế giới ngầm của những nội dung người lớn lập tức hiện ra công khai luôn.
Việc một hệ thống tìm kiếm được đổ hàng tỷ USD mỗi năm của Meta liên tục "thất thủ" trước các từ khóa cơ bản đang khiến nhiều người hoài nghi về khả năng kiểm soát nội dung của mạng xã hội lớn nhất hành tinh này
Để hiểu tại sao lỗi này lại dễ dàng lặp lại thế, chúng mình cần phải bóc tách các "chiêu trò" công nghệ mà bọn spammer đang xài để qua mặt bộ lọc kiểm duyệt nha.
Trò "Treo đầu dê, bán thịt chó" của hội spammer
Nhìn sơ qua thì nhiều người nghĩ đây là lỗi của Facebook. Nhưng thực ra dưới góc độ công nghệ, câu chuyện phức tạp hơn nhiều đấy!
Ngược lại với suy nghĩ của đa số rằng các video nhạy cảm này lọt qua bộ lọc của Facebook nhờ những thuật toán mã hóa siêu đỉnh, thực tế bọn spammer lại dùng những thủ thuật tương đối thủ công nhưng cực kỳ hiệu quả với hệ thống AI kiểm duyệt. Chiêu phổ biến nhất hiện nay là kỹ thuật "cloaking" (che mắt thuật toán) kết hợp với việc tạo các đoạn giới thiệu fake.
Hệ thống kiểm duyệt tự động của Facebook quét các video dựa trên các khung hình (frames) đầu tiên và các mốc thời gian random để xác định xem video đó có vi phạm tiêu chuẩn cộng đồng hay không.
Nắm được điểm yếu này, các đối tượng phát tán nội dung bẩn đã tinh vi lồng ghép một đoạn intro dài từ 5 đến 10 giây ở đầu video với nội dung hoàn toàn lành mạnh, ví dụ như một clip hướng dẫn nấu ăn, một meme hài hước hoặc một đoạn phim hoạt hình vui nhộn.
Khi AI quét qua phần đầu của file, nó nhanh chóng gắn nhãn "an toàn" cho video và cho phép đăng. Tuy nhiên, ngay sau phần giới thiệu vô hại đó lại là toàn bộ nội dung người lớn được cắt ghép từ các nguồn không chính thống
Bên cạnh đó, hội spammer còn dùng kỹ thuật can thiệp kỹ thuật số nhẹ lên video như thay đổi tần số âm thanh, lật ngược khung hình, chèn các lớp mờ (overlay) siêu mỏng hoặc thay đổi dải màu để làm lệch hướng nhận diện của thuật toán so khớp vân tay video (Video Fingerprinting). Bằng cách này, video dù có nội dung người lớn cũ đã bị ban trước đó vẫn được hệ thống nhận diện như một file hoàn toàn mới và chưa từng vi phạm.
Ngoài ra, việc phụ thuộc vào thuật toán của Meta cũng là điểm yếu chí mạng. Trong kỷ nguyên thuật toán, từ khóa không còn là yếu tố duy nhất quyết định kết quả tìm kiếm nữa rồi. Các nền tảng mạng xã hội hiện đại ngày càng chuyển sang mô hình "tìm kiếm theo mức độ liên quan" thay vì "tìm kiếm theo từ khóa thuần túy".
Điều đó đồng nghĩa hệ thống sẽ đánh giá đồng thời cả tá tín hiệu như mức độ tương tác, tỷ lệ xem hết video, số lượt share, lịch sử hành vi của người dùng và xu hướng đang được lan truyền trên toàn nền tảng.
Chính cơ chế này đã tạo ra một nghịch lý khá "trớ trêu". Nhiều nội dung người lớn thường có tỷ lệ giữ chân người xem rất cao. Người dùng có xu hướng dừng lại lâu hơn, xem kỹ hơn hoặc tương tác nhiều hơn so với các nội dung thông thường. Đối với thuật toán, đây là tín hiệu cho thấy nội dung "hấp dẫn", từ đó được ưu tiên phân phối rộng hơn
Không ít nhà sáng tạo nội dung spam đã nhanh chóng nhận ra điểm yếu này. Họ cố tình gắn các hashtag phổ biến như #vi, #trending, #hotvideo hay #fyp vào những video nhạy cảm nhằm lợi dụng hệ thống đề xuất và tìm kiếm. Kết quả là khi người dùng tra cứu những từ khóa mang tính đại chúng như "vi", hệ thống có thể trả về các video hoàn toàn không liên quan đến ý nghĩa thực sự của từ khóa đó.
Một yếu tố khác nằm ở sự thay đổi trong "triết lý" vận hành của các mạng xã hội.
Trước đây, công cụ tìm kiếm chủ yếu hoạt động giống Google, tập trung vào việc khớp từ khóa. Hiện nay, Facebook, TikTok hay Instagram ngày càng vận hành theo mô hình "discovery engine" hay cỗ máy khám phá nội dung. Mục tiêu không phải là tìm chính xác thứ người dùng gõ vào, mà là hiển thị thứ thuật toán cho rằng người dùng có khả năng dành nhiều thời gian nhất để xem.
Điều này lý giải vì sao hai người cùng gõ một từ khóa nhưng lại nhận được kết quả hoàn toàn khác nhau. Thuật toán đã được cá nhân hóa dựa trên lịch sử xem video, các trang đã follow, nhóm đã tham gia và hàng trăm tín hiệu hành vi khác
Các chuyên gia về nền tảng số cho rằng hiện tượng này phản ánh thách thức ngày càng lớn của các mạng xã hội trong việc cân bằng giữa tăng trưởng tương tác và kiểm soát nội dung. Những thuật toán được tối ưu để giữ chân người dùng thường vô tình tạo lợi thế cho các nội dung gây sốc, kích thích tò mò hoặc đánh vào bản năng của con người.
Đó cũng là lý do nhiều nền tảng liên tục phải điều chỉnh hệ thống xếp hạng, tăng cường lọc nội dung nhạy cảm và xử lý các tài khoản spam. Tuy nhiên, cuộc đua giữa thuật toán kiểm duyệt và những người tìm cách lách thuật toán dường như vẫn chưa có hồi kết
Nguồn: soha.vn
Mấy hôm nay, hội F tại Việt Nam và khắp thế giới đang "té ngửa" khi dùng công cụ search của Meta (Facebook) đấy.
Thay vì hiện những trend hay video hot khi gõ từ khóa siêu thông dụng là "vi*", hệ thống lại trả về cả một list dài ngoằng các video... người lớn luôn ạ
Đáng hoảng hơn nữa là trên app di động, những video này còn tự động play kèm âm thanh ngay khi hiện lên màn hình, gây ra không biết bao nhiêu tình huống "cười ra nước mắt" cho hội văn phòng hoặc ai đang có trẻ con xung quanh
Đây không phải lần đầu tiên công cụ search của Meta để lộ lỗ hổng chết người này đâu nhé. Cuối năm ngoái, sự cố tương tự cũng từng xảy ra khi người dùng chỉ cần gõ các ký tự đơn lẻ như "b", "c" hay "x" là thế giới ngầm của những nội dung người lớn lập tức hiện ra công khai luôn.
Việc một hệ thống tìm kiếm được đổ hàng tỷ USD mỗi năm của Meta liên tục "thất thủ" trước các từ khóa cơ bản đang khiến nhiều người hoài nghi về khả năng kiểm soát nội dung của mạng xã hội lớn nhất hành tinh này
Để hiểu tại sao lỗi này lại dễ dàng lặp lại thế, chúng mình cần phải bóc tách các "chiêu trò" công nghệ mà bọn spammer đang xài để qua mặt bộ lọc kiểm duyệt nha.
Trò "Treo đầu dê, bán thịt chó" của hội spammer
Nhìn sơ qua thì nhiều người nghĩ đây là lỗi của Facebook. Nhưng thực ra dưới góc độ công nghệ, câu chuyện phức tạp hơn nhiều đấy!
Ngược lại với suy nghĩ của đa số rằng các video nhạy cảm này lọt qua bộ lọc của Facebook nhờ những thuật toán mã hóa siêu đỉnh, thực tế bọn spammer lại dùng những thủ thuật tương đối thủ công nhưng cực kỳ hiệu quả với hệ thống AI kiểm duyệt. Chiêu phổ biến nhất hiện nay là kỹ thuật "cloaking" (che mắt thuật toán) kết hợp với việc tạo các đoạn giới thiệu fake.
Hệ thống kiểm duyệt tự động của Facebook quét các video dựa trên các khung hình (frames) đầu tiên và các mốc thời gian random để xác định xem video đó có vi phạm tiêu chuẩn cộng đồng hay không.
Nắm được điểm yếu này, các đối tượng phát tán nội dung bẩn đã tinh vi lồng ghép một đoạn intro dài từ 5 đến 10 giây ở đầu video với nội dung hoàn toàn lành mạnh, ví dụ như một clip hướng dẫn nấu ăn, một meme hài hước hoặc một đoạn phim hoạt hình vui nhộn.
Khi AI quét qua phần đầu của file, nó nhanh chóng gắn nhãn "an toàn" cho video và cho phép đăng. Tuy nhiên, ngay sau phần giới thiệu vô hại đó lại là toàn bộ nội dung người lớn được cắt ghép từ các nguồn không chính thống
Bên cạnh đó, hội spammer còn dùng kỹ thuật can thiệp kỹ thuật số nhẹ lên video như thay đổi tần số âm thanh, lật ngược khung hình, chèn các lớp mờ (overlay) siêu mỏng hoặc thay đổi dải màu để làm lệch hướng nhận diện của thuật toán so khớp vân tay video (Video Fingerprinting). Bằng cách này, video dù có nội dung người lớn cũ đã bị ban trước đó vẫn được hệ thống nhận diện như một file hoàn toàn mới và chưa từng vi phạm.
Ngoài ra, việc phụ thuộc vào thuật toán của Meta cũng là điểm yếu chí mạng. Trong kỷ nguyên thuật toán, từ khóa không còn là yếu tố duy nhất quyết định kết quả tìm kiếm nữa rồi. Các nền tảng mạng xã hội hiện đại ngày càng chuyển sang mô hình "tìm kiếm theo mức độ liên quan" thay vì "tìm kiếm theo từ khóa thuần túy".
Điều đó đồng nghĩa hệ thống sẽ đánh giá đồng thời cả tá tín hiệu như mức độ tương tác, tỷ lệ xem hết video, số lượt share, lịch sử hành vi của người dùng và xu hướng đang được lan truyền trên toàn nền tảng.
Chính cơ chế này đã tạo ra một nghịch lý khá "trớ trêu". Nhiều nội dung người lớn thường có tỷ lệ giữ chân người xem rất cao. Người dùng có xu hướng dừng lại lâu hơn, xem kỹ hơn hoặc tương tác nhiều hơn so với các nội dung thông thường. Đối với thuật toán, đây là tín hiệu cho thấy nội dung "hấp dẫn", từ đó được ưu tiên phân phối rộng hơn
Không ít nhà sáng tạo nội dung spam đã nhanh chóng nhận ra điểm yếu này. Họ cố tình gắn các hashtag phổ biến như #vi, #trending, #hotvideo hay #fyp vào những video nhạy cảm nhằm lợi dụng hệ thống đề xuất và tìm kiếm. Kết quả là khi người dùng tra cứu những từ khóa mang tính đại chúng như "vi", hệ thống có thể trả về các video hoàn toàn không liên quan đến ý nghĩa thực sự của từ khóa đó.
Một yếu tố khác nằm ở sự thay đổi trong "triết lý" vận hành của các mạng xã hội.
Trước đây, công cụ tìm kiếm chủ yếu hoạt động giống Google, tập trung vào việc khớp từ khóa. Hiện nay, Facebook, TikTok hay Instagram ngày càng vận hành theo mô hình "discovery engine" hay cỗ máy khám phá nội dung. Mục tiêu không phải là tìm chính xác thứ người dùng gõ vào, mà là hiển thị thứ thuật toán cho rằng người dùng có khả năng dành nhiều thời gian nhất để xem.
Điều này lý giải vì sao hai người cùng gõ một từ khóa nhưng lại nhận được kết quả hoàn toàn khác nhau. Thuật toán đã được cá nhân hóa dựa trên lịch sử xem video, các trang đã follow, nhóm đã tham gia và hàng trăm tín hiệu hành vi khác
Các chuyên gia về nền tảng số cho rằng hiện tượng này phản ánh thách thức ngày càng lớn của các mạng xã hội trong việc cân bằng giữa tăng trưởng tương tác và kiểm soát nội dung. Những thuật toán được tối ưu để giữ chân người dùng thường vô tình tạo lợi thế cho các nội dung gây sốc, kích thích tò mò hoặc đánh vào bản năng của con người.
Đó cũng là lý do nhiều nền tảng liên tục phải điều chỉnh hệ thống xếp hạng, tăng cường lọc nội dung nhạy cảm và xử lý các tài khoản spam. Tuy nhiên, cuộc đua giữa thuật toán kiểm duyệt và những người tìm cách lách thuật toán dường như vẫn chưa có hồi kết
Nguồn: soha.vn