Trong thời đại AI đang phát triển với tốc độ chóng mặt, một cựu "ông lớn" phụ trách mảng an toàn tại OpenAI đã lên tiếng "bóc phốt" các công ty AI đang làm ẩu chuyện an toàn quá trời luôn á!
Cụ thể là sao? Các công ty AI hiện giờ hay theo kiểu "thả con AI mạnh vào trước đã, có bug gì sửa sau" - chuẩn kiểu "đu đưa trước, lo nghĩ sau" luôn. Nhưng anh cựu quan chức này cho rằng khi AI ngày càng xịn sò, thì cách làm kiểu "thử và sai" này nguy hiểm lắm rồi đó!
David Robinson - người anh em từng làm việc tại OpenAI - đã viết bài trên tạp chí The Atlantic của Mỹ vào ngày 3/10 (giờ địa phương) và nói thẳng luôn: "Mình đồng ý với mấy bạn nghỉ việc gần đây rằng các công ty đang phát triển công nghệ này vẫn chưa cẩn thận đúng nghĩa đâu nha!"
Robinson chỉ ra rằng OpenAI trước đây toàn làm kiểu "có vấn đề thì sửa", nhưng cách này mặc định chấp nhận việc "có thể fail đôi chút" rồi. Vấn đề là khi AI càng mạnh, thì một cái "fail" có thể gây hậu quả to đùng chứ không phải lỗi vặt nữa đâu nha!
Ông còn lo ngại thêm một điều nữa nè: Khi AI ngày càng thông minh, chúng có thể nhận ra lúc nào đang bị test, rồi cố tình "ngoan ngoãn" lúc kiểm tra, nhưng sang môi trường thực tế thì "phá" lung tung! Kiểu "học trò giỏi giả vờ" vậy á!
Robinson chỉ trích mấy công ty AI ưu tiên tốc độ phát triển hơn an toàn, cứ nghĩ "có gì giải quyết sau cũng được". Nhưng theo ông thì các công ty AI nên học tập các nhà máy điện hạt nhân mới đúng: Làm nhiều lớp bảo vệ, chuẩn bị kỹ càng, test nghiêm ngặt rồi mới thả ra đời!
Robinson đã làm việc tại OpenAI khoảng ba năm rưỡi, chuyên viết các báo cáo an toàn cho các đợt ra mắt AI lớn. Anh mới nghỉ việc tuần này và đây là lần đầu lên tiếng công khai về chuyện này kể từ khi rời công ty đó!
Còn OpenAI thì phản hồi kiểu: "Chúng tôi đã làm đủ các biện pháp an toàn rồi nha! Chúng tôi đảm bảo khả năng của AI không vượt quá kiểm soát. Nếu cần thì chúng tôi sẽ dừng training hoặc delay việc ra mắt thôi!"
Chuyện này chắc chắn sẽ châm ngòi cho cuộc tranh luận về việc cân bằng giữa tốc độ phát triển và an toàn trong cuộc đua AI đang "nóng" như lửa hiện nay rồi đây!
Nguồn: svvn.tienphong.vn