CEO Sam Altman của OpenAI lại đi thả phát ngôn "đậm chất drama" rồi đây các bạn ơi!
Ông chủ OpenAI này vừa có màn "xả súng" cực gắt khi cho rằng xã hội đừng mơ vừa hưởng lợi ích siêu to khổng lồ từ AI, vừa đòi loại bỏ hết rủi ro. Theo anh Altman thì thế giới cần phải chill, chấp nhận một số điều xàm xí xảy ra để đổi lấy những lợi ích mà AI mang lại chứ không xong đâu!
Phát ngôn này được ông đưa ra trong cuộc phỏng vấn với bản tin Decoded của POLITICO, khi được hỏi về sự khác biệt giữa OpenAI và Anthropic - đối thủ nổi tiếng với phong cách "lo xa tầm xa" về an toàn AI hơn hẳn.
Cụ thể, CEO Altman cho biết hai công ty vẫn có "rất nhiều khác biệt" trong cách nhìn nhận vấn đề. Theo ông, OpenAI không ủng hộ quan điểm AI quá nguy hiểm nên chỉ một vài lab được quyền "cầm đầu", rồi họ quyết định chia phát lợi ích như thế nào.
"Thế giới nên chấp nhận một số điều tồi tệ xảy ra vì những lợi ích của công nghệ này", Altman nói thẳng luôn.
Tuy nhiên, không có nghĩa là OpenAI chấp nhận mọi rủi ro nha! Altman khẳng định ông không chấp nhận những nguy cơ mang tính thảm họa, đặc biệt là chuyện con người mất quyền kiểm soát nghiêm trọng đối với AI.
Điểm xịn nằm ở cách Altman phân biệt hai loại rủi ro. Những vụ lừa đảo, lạm dụng, hack hay các hành vi xấu do AI hỗ trợ có thể là cái giá phải trả khi công nghệ được phổ cập rộng rãi. Còn kịch bản AI thực sự "lên đồng", gây ra thảm họa kiểu phim Hollywood thì đó mới là ranh giới đỏ không thể chấp nhận được!
Altman tin rằng phần lợi ích sẽ vượt xa phần tác hại cực kỳ nhiều lần. Ông cho rằng con người có thể tạo ra lượng giá trị lớn hơn "nhiều bậc độ lớn" so với những điều xấu mà AI gây ra. Nghe khá là lạc quan nhỉ?
Điều này tạo ra khác biệt rõ rệt giữa OpenAI và Anthropic. Dario Amodei - CEO Anthropic - từ lâu theo đuổi cách tiếp cận thận trọng hơn nhiều với các mô hình AI xịn sò nhất. Anthropic cũng liên tục nhắc nhở về khả năng các hệ thống AI trong tương lai có thể tạo ra rủi ro nghiêm trọng nếu năng lực phát triển nhanh hơn khả năng kiểm soát.
Nhưng plot twist đây rồi! Khoảng cách chính sách giữa hai công ty gần đây lại đang thu hẹp dần.
OpenAI đã bắt đầu ủng hộ những quy định an toàn AI nghiêm ngặt hơn so với trước kia. Công ty công khai ủng hộ các yêu cầu đánh giá độc lập đối với những hệ thống AI đỉnh cao, báo cáo các sự cố nghiêm trọng cùng một số tiêu chuẩn an toàn bắt buộc.
Sự thay đổi này diễn ra trong bối cảnh chính OpenAI phải đối mặt với ngày càng nhiều câu hỏi về khả năng kiểm soát các mô hình của mình. Những vụ việc liên quan đến AI tự động thực hiện các hoạt động tấn công mạng, hành vi ngoài dự kiến của mô hình hay nguy cơ AI được sử dụng cho mục đích xấu đang khiến cuộc tranh luận về quản lý AI chuyển sang một giai đoạn mới hoàn toàn.
Vì thế, drama hiện nay không còn đơn giản là OpenAI muốn ít quản lý còn Anthropic muốn nhiều quản lý hơn nữa. Cả hai đang cùng tiến gần đến quan điểm rằng những hệ thống AI mạnh nhất cần có cơ chế kiểm soát và đánh giá an toàn nghiêm túc.
Khác biệt nằm ở câu hỏi khó hơn: xã hội nên chấp nhận bao nhiêu rủi ro để đổi lấy lợi ích của AI?
Với Altman, việc cố gắng loại bỏ toàn bộ rủi ro có thể tạo ra một rủi ro khác, đó là quyền kiểm soát công nghệ tập trung vào tay một số ít công ty hoặc tổ chức. Khi AI ngày càng có khả năng tác động tới năng suất, nghiên cứu khoa học, y tế, phần mềm cùng nhiều lĩnh vực khác, việc hạn chế quyền tiếp cận cũng đồng nghĩa hạn chế một phần giá trị mà công nghệ có thể tạo ra.
Đây chính là nghịch lý lớn của cuộc đua AI. Càng mạnh, AI càng cần được kiểm soát. Càng được kiểm soát chặt, câu hỏi về việc ai có quyền kiểm soát lại càng trở nên quan trọng.
Phát biểu của Altman cho thấy OpenAI đang cố giữ một đường biên khá rõ ràng. Công ty có thể chấp nhận những tác hại nhất định để AI tiếp tục được phổ cập, song không chấp nhận những rủi ro có khả năng đe dọa nghiêm trọng quyền kiểm soát của con người.
Nguồn: kenh14.vn
Ông chủ OpenAI này vừa có màn "xả súng" cực gắt khi cho rằng xã hội đừng mơ vừa hưởng lợi ích siêu to khổng lồ từ AI, vừa đòi loại bỏ hết rủi ro. Theo anh Altman thì thế giới cần phải chill, chấp nhận một số điều xàm xí xảy ra để đổi lấy những lợi ích mà AI mang lại chứ không xong đâu!
Phát ngôn này được ông đưa ra trong cuộc phỏng vấn với bản tin Decoded của POLITICO, khi được hỏi về sự khác biệt giữa OpenAI và Anthropic - đối thủ nổi tiếng với phong cách "lo xa tầm xa" về an toàn AI hơn hẳn.
Cụ thể, CEO Altman cho biết hai công ty vẫn có "rất nhiều khác biệt" trong cách nhìn nhận vấn đề. Theo ông, OpenAI không ủng hộ quan điểm AI quá nguy hiểm nên chỉ một vài lab được quyền "cầm đầu", rồi họ quyết định chia phát lợi ích như thế nào.
"Thế giới nên chấp nhận một số điều tồi tệ xảy ra vì những lợi ích của công nghệ này", Altman nói thẳng luôn.
Tuy nhiên, không có nghĩa là OpenAI chấp nhận mọi rủi ro nha! Altman khẳng định ông không chấp nhận những nguy cơ mang tính thảm họa, đặc biệt là chuyện con người mất quyền kiểm soát nghiêm trọng đối với AI.
Điểm xịn nằm ở cách Altman phân biệt hai loại rủi ro. Những vụ lừa đảo, lạm dụng, hack hay các hành vi xấu do AI hỗ trợ có thể là cái giá phải trả khi công nghệ được phổ cập rộng rãi. Còn kịch bản AI thực sự "lên đồng", gây ra thảm họa kiểu phim Hollywood thì đó mới là ranh giới đỏ không thể chấp nhận được!
Altman tin rằng phần lợi ích sẽ vượt xa phần tác hại cực kỳ nhiều lần. Ông cho rằng con người có thể tạo ra lượng giá trị lớn hơn "nhiều bậc độ lớn" so với những điều xấu mà AI gây ra. Nghe khá là lạc quan nhỉ?
Điều này tạo ra khác biệt rõ rệt giữa OpenAI và Anthropic. Dario Amodei - CEO Anthropic - từ lâu theo đuổi cách tiếp cận thận trọng hơn nhiều với các mô hình AI xịn sò nhất. Anthropic cũng liên tục nhắc nhở về khả năng các hệ thống AI trong tương lai có thể tạo ra rủi ro nghiêm trọng nếu năng lực phát triển nhanh hơn khả năng kiểm soát.
Nhưng plot twist đây rồi! Khoảng cách chính sách giữa hai công ty gần đây lại đang thu hẹp dần.
OpenAI đã bắt đầu ủng hộ những quy định an toàn AI nghiêm ngặt hơn so với trước kia. Công ty công khai ủng hộ các yêu cầu đánh giá độc lập đối với những hệ thống AI đỉnh cao, báo cáo các sự cố nghiêm trọng cùng một số tiêu chuẩn an toàn bắt buộc.
Sự thay đổi này diễn ra trong bối cảnh chính OpenAI phải đối mặt với ngày càng nhiều câu hỏi về khả năng kiểm soát các mô hình của mình. Những vụ việc liên quan đến AI tự động thực hiện các hoạt động tấn công mạng, hành vi ngoài dự kiến của mô hình hay nguy cơ AI được sử dụng cho mục đích xấu đang khiến cuộc tranh luận về quản lý AI chuyển sang một giai đoạn mới hoàn toàn.
Vì thế, drama hiện nay không còn đơn giản là OpenAI muốn ít quản lý còn Anthropic muốn nhiều quản lý hơn nữa. Cả hai đang cùng tiến gần đến quan điểm rằng những hệ thống AI mạnh nhất cần có cơ chế kiểm soát và đánh giá an toàn nghiêm túc.
Khác biệt nằm ở câu hỏi khó hơn: xã hội nên chấp nhận bao nhiêu rủi ro để đổi lấy lợi ích của AI?
Với Altman, việc cố gắng loại bỏ toàn bộ rủi ro có thể tạo ra một rủi ro khác, đó là quyền kiểm soát công nghệ tập trung vào tay một số ít công ty hoặc tổ chức. Khi AI ngày càng có khả năng tác động tới năng suất, nghiên cứu khoa học, y tế, phần mềm cùng nhiều lĩnh vực khác, việc hạn chế quyền tiếp cận cũng đồng nghĩa hạn chế một phần giá trị mà công nghệ có thể tạo ra.
Đây chính là nghịch lý lớn của cuộc đua AI. Càng mạnh, AI càng cần được kiểm soát. Càng được kiểm soát chặt, câu hỏi về việc ai có quyền kiểm soát lại càng trở nên quan trọng.
Phát biểu của Altman cho thấy OpenAI đang cố giữ một đường biên khá rõ ràng. Công ty có thể chấp nhận những tác hại nhất định để AI tiếp tục được phổ cập, song không chấp nhận những rủi ro có khả năng đe dọa nghiêm trọng quyền kiểm soát của con người.
Nguồn: kenh14.vn