Chuyện là OpenAI sắp thêm watermark "tàng hình" vào mấy đoạn văn do ChatGPT và Codex sinh ra ở châu Âu (EU) để nghe lời Đạo luật AI của EU nè. Luật về tính minh bạch này có hiệu lực từ ngày 2/8, bắt các công ty AI phải đánh dấu nội dung do AI tạo ra theo cách mà các hệ thống khác có thể detect được.
OpenAI cho biết watermark sẽ được roll out trong vài tuần tới cho các bạn dùng ChatGPT và Codex đủ điều kiện ở EU (tất cả gói dịch vụ luôn nha). Còn các dev xài API của OpenAI ở bất kỳ đâu trên thế giới thì có thể bật tính năng này cho một số model từ hôm nay. Tuy nhiên tính năng này mặc định đang off đấy, và OpenAI chưa có ý định bật watermark làm chuẩn toàn cầu ngay khi ra mắt.
Watermark này không phải kiểu hiện hình cụ thể nào đâu nha. Thay vào đó, công nghệ này ảnh hưởng tinh tế đến cách model chọn từ, tạo ra một pattern mà mắt người không thấy nhưng hệ thống phát hiện vẫn bắt được ngon lành
Do dấu hiệu được gắn trực tiếp vào các từ trong văn bản, nên watermark vẫn còn nguyên khi bạn copy paste. OpenAI nói phương thức này không lộ danh tính người dùng. Công ty cũng không thấy hiệu suất model thay đổi gì đáng kể khi bật watermark.
Cùng lúc đó, OpenAI công bố báo cáo kỹ thuật về phương pháp tên textGrain. Báo cáo có sự tham gia của các nhà nghiên cứu từ Đại học Pennsylvania và Đại học Yale, trình bày cách dùng một khóa bí mật để sắp xếp các dự đoán từ tiếp theo nhằm hoàn thành câu.
Khi hàng trăm điều chỉnh như vậy kết hợp lại, hệ thống phát hiện có thể xác định văn bản do AI tạo ra dựa vào chính nội dung và khóa bí mật.
Tuy nhiên công nghệ này không phải là bất khả xâm phạm đâu nha. Các thử nghiệm của OpenAI cho thấy watermark có thể bị yếu đi khi văn bản bị chỉnh sửa. Trong một thử nghiệm, việc thay 10% số từ bằng từ đồng nghĩa khiến tỷ lệ phát hiện giảm từ khoảng 92% xuống 66% luôn
OpenAI cũng cho biết những đoạn văn ngắn, câu trả lời toán học và văn bản được dịch là những dạng nội dung khó phát hiện hơn.
"Những hạn chế này góp phần vào quyết định của chúng tôi về việc ban đầu chỉ cung cấp quyền truy cập vào hệ thống phát hiện cho các nhà nghiên cứu được phê duyệt và các tổ chức chuyên môn, những bên có thể giúp chúng tôi đánh giá độ tin cậy và cách sử dụng có trách nhiệm", công ty cho biết.
OpenAI cũng lưu ý thêm là việc không phát hiện được watermark không có nghĩa là văn bản do con người viết đâu nha. Nội dung có thể quá ngắn, đã bị sửa quá nhiều hoặc được tạo bởi hệ thống AI của công ty khác.
"Watermark có thể cho thấy một hệ thống của OpenAI đã tạo ra hoặc xử lý một phần của đoạn văn, nhưng không cho biết mức độ phán đoán, chỉnh sửa hay sáng tạo của con người đã được đưa vào đó", công ty cho biết.
Nguồn: saostar.vn