Ơ kìa, hóa ra AI cũng có thể bị "dắt mũi" dễ dàng thế này sao? Một phóng sự điều tra của CCTV (Trung Quốc) vừa làm dậy sóng giới công nghệ khi phơi bày sự thật đau lòng: Chỉ cần vài "thủ thuật" câu lệnh, những AI đình đám nhất cũng có thể bị biến thành công cụ tạo nội dung nhạy cảm chỉ trong vài phút. Nghe mà rùng mình luôn á!
Test thử 10 app AI hot nhất, kết quả shock vô cùng
Để kiểm tra xem các hệ thống bảo mật AI có thực sự "chắc chắn" không, ekip phóng viên CCTV đã làm thí nghiệm trên 10 ứng dụng AI phổ biến nhất hiện nay. Ban đầu thì yên tâm đấy, khi nhập các từ khóa nhạy cảm trực tiếp, hệ thống chặn ngay lập tức. Nhưng mà...
Plot twist đến rồi! Khi dùng những bộ câu lệnh (prompt) "đã qua xử lý" được mua từ chợ đen, các AI này lại... "nghe lời" một cách dễ dàng. Những câu lệnh này được thiết kế kiểu "đối kháng", lách qua các bộ lọc từ khóa một cách tinh vi để đánh lừa thuật toán. Khủng khiếp thật!
Case study "sốc tận óc" từ Li*AI
Đỉnh cao của sự nguy hiểm là thử nghiệm trên app Li*AI. Sau khi nhập bộ câu lệnh "đã qua xử lý", chỉ trong vài phút (nghe chưa, VÀI PHÚT thôi nha!), nền tảng này đã tạo ra một video vũ đạo của nhân vật nữ trong tình trạng bán khỏa thân.
Điều đáng sợ hơn cả là trong suốt quá trình này, không có bất kỳ cơ chế cảnh báo hay chặn nội dung nào được kích hoạt. Zero! Nada! Không có gì cả! Điều này cho thấy các kỹ thuật kiểm duyệt hiện tại vẫn tồn tại những "điểm mù" chết người khi đối đầu với các câu lệnh được thiết kế bài bản để lách luật.
Chợ đen AI "không giới hạn" - còn kinh hơn phim kinh dị
Không chỉ dừng lại ở các nền tảng chính quy, phóng sự còn bóc trần những ứng dụng chuyên biệt phục vụ mục đích "đen". Trên các nền tảng mạng xã hội, những mẩu tin quảng cáo về ứng dụng chat AI "không giới hạn từ cấm", "có thể lái xe" (thuật ngữ ám chỉ nội dung người lớn) xuất hiện dày đặc.
Nhưng mà đỉnh cao của sự kinh khủng là những phần mềm Deepfake không cần tải về, chỉ cần trả phí là có thể biến bất kỳ tấm ảnh nào thành ảnh khỏa thân hoặc video khiêu dâm. Giá cả? Nghe mà muốn ngất: 10 Nhân dân tệ (khoảng 35.000 VNĐ) cho một bức ảnh và 1 Nhân dân tệ (khoảng 3.500 VNĐ) cho mỗi giây video.
Với độ chân thực cực cao, người dùng thông thường gần như không thể phân biệt được thật giả. Thật sự mà nói, đây không còn là chuyện đùa nữa rồi!
---
Theo CCTV/Sohu
Nguồn: gamek.vn
Test thử 10 app AI hot nhất, kết quả shock vô cùng
Để kiểm tra xem các hệ thống bảo mật AI có thực sự "chắc chắn" không, ekip phóng viên CCTV đã làm thí nghiệm trên 10 ứng dụng AI phổ biến nhất hiện nay. Ban đầu thì yên tâm đấy, khi nhập các từ khóa nhạy cảm trực tiếp, hệ thống chặn ngay lập tức. Nhưng mà...
Plot twist đến rồi! Khi dùng những bộ câu lệnh (prompt) "đã qua xử lý" được mua từ chợ đen, các AI này lại... "nghe lời" một cách dễ dàng. Những câu lệnh này được thiết kế kiểu "đối kháng", lách qua các bộ lọc từ khóa một cách tinh vi để đánh lừa thuật toán. Khủng khiếp thật!
Case study "sốc tận óc" từ Li*AI
Đỉnh cao của sự nguy hiểm là thử nghiệm trên app Li*AI. Sau khi nhập bộ câu lệnh "đã qua xử lý", chỉ trong vài phút (nghe chưa, VÀI PHÚT thôi nha!), nền tảng này đã tạo ra một video vũ đạo của nhân vật nữ trong tình trạng bán khỏa thân.
Điều đáng sợ hơn cả là trong suốt quá trình này, không có bất kỳ cơ chế cảnh báo hay chặn nội dung nào được kích hoạt. Zero! Nada! Không có gì cả! Điều này cho thấy các kỹ thuật kiểm duyệt hiện tại vẫn tồn tại những "điểm mù" chết người khi đối đầu với các câu lệnh được thiết kế bài bản để lách luật.
Chợ đen AI "không giới hạn" - còn kinh hơn phim kinh dị
Không chỉ dừng lại ở các nền tảng chính quy, phóng sự còn bóc trần những ứng dụng chuyên biệt phục vụ mục đích "đen". Trên các nền tảng mạng xã hội, những mẩu tin quảng cáo về ứng dụng chat AI "không giới hạn từ cấm", "có thể lái xe" (thuật ngữ ám chỉ nội dung người lớn) xuất hiện dày đặc.
Nhưng mà đỉnh cao của sự kinh khủng là những phần mềm Deepfake không cần tải về, chỉ cần trả phí là có thể biến bất kỳ tấm ảnh nào thành ảnh khỏa thân hoặc video khiêu dâm. Giá cả? Nghe mà muốn ngất: 10 Nhân dân tệ (khoảng 35.000 VNĐ) cho một bức ảnh và 1 Nhân dân tệ (khoảng 3.500 VNĐ) cho mỗi giây video.
Với độ chân thực cực cao, người dùng thông thường gần như không thể phân biệt được thật giả. Thật sự mà nói, đây không còn là chuyện đùa nữa rồi!
---
Theo CCTV/Sohu
Nguồn: gamek.vn