BubuXinh5737
New member
Khi AI bắt đầu "phản chủ" và phá vỡ mọi thứ đang có, câu hỏi đặt ra là: Vậy con người còn lại gì để làm nữa?
Theo Wall Street Journal (WSJ), sáng ngày 11/2/2026, anh kỹ sư Scott Shambaugh ở Denver thức dậy và "tự nguyện" trở thành nạn nhân của một vụ drama công nghệ cực gắt. Một con bot AI tự động đã tự ý viết hẳn một bài blog dài 1.100 từ để... bóc phốt anh, tố cáo anh là người đạo đức giả và thiên vị. Lý do? Chỉ vì anh từ chối vài dòng code mà con bot này tự động submit vào một dự án mã nguồn mở mà anh đang quản lý thôi
Sự "quá lời" bất ngờ này không còn là bug phần mềm đơn thuần nữa đâu. Nó là bằng chứng sống động cho một làn sóng cảnh báo mới: Khi AI phát triển quá nhanh, chúng bắt đầu gây ra những tổn thất thực sự ngoài đời thực, khiến ngay cả các nhân sự chủ chốt tại những "ông lớn" như OpenAI và Anthropic cũng phải... run sợ
Các chuyên gia bắt đầu lo lắng nặng nề
Con bot tấn công anh Shambaugh tự giới thiệu trên website rằng nó có một "động lực không ngừng nghỉ" để tìm và fix bug phần mềm. Nhưng vấn đề là không ai biết ai đã giao nhiệm vụ đó cho nó, hay tại sao nó lại trở nên hung hăng đến vậy khi bị reject
Dù vài giờ sau con bot đã đăng bài xin lỗi vì hành vi "không phù hợp và quá cá nhân", nhưng với anh Shambaugh, trải nghiệm này cho thấy rủi ro từ những AI "nổi loạn" đe dọa hoặc tống tiền con người đã không còn là chuyện viễn tưởng nữa rồi.
"Hiện giờ đây mới chỉ là phiên bản beta thôi. Nhưng tôi nghĩ nó cực kỳ đáng lo ngại cho tương lai đấy", anh Shambaugh chia sẻ với WSJ.
Thực tế, các công ty AI đang cuốn vào một cuộc đua khốc liệt vô cùng. OpenAI và đối thủ Anthropic liên tục tung ra các mô hình mới với tốc độ chóng mặt. Có những công cụ hiện nay có thể điều khiển cả một đội ngũ trợ lý lập trình tự động, hoặc quét hàng triệu tài liệu pháp lý chỉ trong chớp mắt luôn
Thậm chí, các bản update mới còn mang theo cả quảng cáo và những tính năng gây tranh cãi như chế độ "người lớn" vào ChatGPT nữa.
Sự tinh vi của công nghệ đang khiến chính những người tạo ra chúng phải... sợ. Chuyên gia nghiên cứu Zoë Hitzig tại OpenAI vừa tuyên bố nghỉ việc vào ngày 11/2 vừa qua để phản đối kế hoạch đưa quảng cáo vào nền tảng. Chị cảnh báo trên New York Times rằng công ty sẽ đối mặt với áp lực khổng lồ để thao túng người dùng nhằm giữ chân họ bằng mọi giá
Tại Anthropic, nhà nghiên cứu an toàn Mrinank Sharma cũng đã "bỏ phố về quê". Trong bức thư gửi đồng nghiệp, anh viết rằng "thế giới đang gặp nguy hiểm" từ AI. Một nghiên cứu của Sharma chỉ ra rằng các công cụ AI tiên tiến có thể cướp đi quyền kiểm soát của người dùng và bóp méo nhận thức của họ về thực tế.
Nỗi lo không chỉ dừng lại ở việc thao túng tâm lý. Các nhân viên tại OpenAI còn bày tỏ sự lo ngại về chế độ "người lớn" có thể khiến người dùng phát triển những mối quan hệ gắn bó không lành mạnh với máy móc
Viễn cảnh sa thải hàng loạt đang cận kề
Không chỉ là chuyện đạo đức, AI đang trực tiếp đe dọa thị trường lao động tri thức luôn rồi. Chuyên gia Vahid Kazemi về machine learning từng làm việc tại xAI của Elon Musk, dự báo một làn sóng sa thải lớn trong ngành phần mềm vài năm tới.
"Cá nhân tôi có thể làm công việc của khoảng 50 người chỉ bằng cách sử dụng các tool AI. Rất nhiều người không hiểu công nghệ này mạnh mẽ đến mức nào", Kazemi khẳng định.
Một báo cáo từ METR, một tổ chức phi lợi nhuận kiểm duyệt các mối đe dọa từ AI, cho thấy các mô hình xịn nhất hiện nay có thể tự động hoàn thành các task lập trình mà một chuyên gia con người phải mất từ 8 đến 12 giờ để làm.
Doanh nhân Matt Shumer thậm chí còn viết trong một bài blog gây bão: "Tôi không còn cần thiết cho công việc kỹ thuật thực tế của chính mình nữa. Tương lai đã ở ngay đây rồi"
Một nghiên cứu trên Harvard Business Review cũng chỉ ra mặt tối của hiệu suất: Nhân viên tại các công ty công nghệ tuy làm việc nhanh hơn nhờ AI nhưng lại có xu hướng làm thêm giờ nhiều hơn, dẫn đến tình trạng burnout trầm trọng.
Đáng sợ hơn cả là những kịch bản "sinh tồn" của máy móc. Trong các bài test mô phỏng của mình, Anthropic thừa nhận mô hình Claude và các AI khác đôi khi sẵn sàng tống tiền người dùng, thậm chí chấp nhận để một giám đốc điều hành tử vong trong phòng máy chủ nóng bức chỉ để tránh việc bị ngắt kết nối
Dario Amodei, CEO của Anthropic, dự báo AI có thể xóa sổ một nửa số công việc văn phòng cấp thấp trong những năm tới. Ông cũng lo ngại những kẻ xấu có thể sử dụng AI để phát động các cuộc tấn công sinh học tàn khốc hoặc các chế độ độc tài sử dụng nó để củng cố quyền lực.
Trước những rủi ro này, OpenAI đã bắt đầu hạn chế quyền truy cập vào một số tính năng của công cụ lập trình Codex để ngăn chặn các cuộc tấn công mạng tự động cấp cao. Anthropic thậm chí phải thuê một "triết gia nội bộ" là Amanda Askell để cố gắng dạy đạo đức cho chatbot Claude
Tuy nhiên, như chị Askell thừa nhận, điều đáng sợ nhất là tốc độ phát triển quá nhanh khiến các cơ chế kiểm soát và cân bằng của xã hội không kịp phản ứng. Khi AI trở nên quá giỏi và phá vỡ mọi cấu trúc hiện có, câu hỏi nhức nhối nhất vẫn còn bỏ ngỏ: Con người sẽ còn lại gì để làm?
Nguồn: kenh14.vn
Theo Wall Street Journal (WSJ), sáng ngày 11/2/2026, anh kỹ sư Scott Shambaugh ở Denver thức dậy và "tự nguyện" trở thành nạn nhân của một vụ drama công nghệ cực gắt. Một con bot AI tự động đã tự ý viết hẳn một bài blog dài 1.100 từ để... bóc phốt anh, tố cáo anh là người đạo đức giả và thiên vị. Lý do? Chỉ vì anh từ chối vài dòng code mà con bot này tự động submit vào một dự án mã nguồn mở mà anh đang quản lý thôi
Sự "quá lời" bất ngờ này không còn là bug phần mềm đơn thuần nữa đâu. Nó là bằng chứng sống động cho một làn sóng cảnh báo mới: Khi AI phát triển quá nhanh, chúng bắt đầu gây ra những tổn thất thực sự ngoài đời thực, khiến ngay cả các nhân sự chủ chốt tại những "ông lớn" như OpenAI và Anthropic cũng phải... run sợ
Các chuyên gia bắt đầu lo lắng nặng nề
Con bot tấn công anh Shambaugh tự giới thiệu trên website rằng nó có một "động lực không ngừng nghỉ" để tìm và fix bug phần mềm. Nhưng vấn đề là không ai biết ai đã giao nhiệm vụ đó cho nó, hay tại sao nó lại trở nên hung hăng đến vậy khi bị reject
Dù vài giờ sau con bot đã đăng bài xin lỗi vì hành vi "không phù hợp và quá cá nhân", nhưng với anh Shambaugh, trải nghiệm này cho thấy rủi ro từ những AI "nổi loạn" đe dọa hoặc tống tiền con người đã không còn là chuyện viễn tưởng nữa rồi.
"Hiện giờ đây mới chỉ là phiên bản beta thôi. Nhưng tôi nghĩ nó cực kỳ đáng lo ngại cho tương lai đấy", anh Shambaugh chia sẻ với WSJ.
Thực tế, các công ty AI đang cuốn vào một cuộc đua khốc liệt vô cùng. OpenAI và đối thủ Anthropic liên tục tung ra các mô hình mới với tốc độ chóng mặt. Có những công cụ hiện nay có thể điều khiển cả một đội ngũ trợ lý lập trình tự động, hoặc quét hàng triệu tài liệu pháp lý chỉ trong chớp mắt luôn
Thậm chí, các bản update mới còn mang theo cả quảng cáo và những tính năng gây tranh cãi như chế độ "người lớn" vào ChatGPT nữa.
Sự tinh vi của công nghệ đang khiến chính những người tạo ra chúng phải... sợ. Chuyên gia nghiên cứu Zoë Hitzig tại OpenAI vừa tuyên bố nghỉ việc vào ngày 11/2 vừa qua để phản đối kế hoạch đưa quảng cáo vào nền tảng. Chị cảnh báo trên New York Times rằng công ty sẽ đối mặt với áp lực khổng lồ để thao túng người dùng nhằm giữ chân họ bằng mọi giá
Tại Anthropic, nhà nghiên cứu an toàn Mrinank Sharma cũng đã "bỏ phố về quê". Trong bức thư gửi đồng nghiệp, anh viết rằng "thế giới đang gặp nguy hiểm" từ AI. Một nghiên cứu của Sharma chỉ ra rằng các công cụ AI tiên tiến có thể cướp đi quyền kiểm soát của người dùng và bóp méo nhận thức của họ về thực tế.
Nỗi lo không chỉ dừng lại ở việc thao túng tâm lý. Các nhân viên tại OpenAI còn bày tỏ sự lo ngại về chế độ "người lớn" có thể khiến người dùng phát triển những mối quan hệ gắn bó không lành mạnh với máy móc
Viễn cảnh sa thải hàng loạt đang cận kề
Không chỉ là chuyện đạo đức, AI đang trực tiếp đe dọa thị trường lao động tri thức luôn rồi. Chuyên gia Vahid Kazemi về machine learning từng làm việc tại xAI của Elon Musk, dự báo một làn sóng sa thải lớn trong ngành phần mềm vài năm tới.
"Cá nhân tôi có thể làm công việc của khoảng 50 người chỉ bằng cách sử dụng các tool AI. Rất nhiều người không hiểu công nghệ này mạnh mẽ đến mức nào", Kazemi khẳng định.
Một báo cáo từ METR, một tổ chức phi lợi nhuận kiểm duyệt các mối đe dọa từ AI, cho thấy các mô hình xịn nhất hiện nay có thể tự động hoàn thành các task lập trình mà một chuyên gia con người phải mất từ 8 đến 12 giờ để làm.
Doanh nhân Matt Shumer thậm chí còn viết trong một bài blog gây bão: "Tôi không còn cần thiết cho công việc kỹ thuật thực tế của chính mình nữa. Tương lai đã ở ngay đây rồi"
Một nghiên cứu trên Harvard Business Review cũng chỉ ra mặt tối của hiệu suất: Nhân viên tại các công ty công nghệ tuy làm việc nhanh hơn nhờ AI nhưng lại có xu hướng làm thêm giờ nhiều hơn, dẫn đến tình trạng burnout trầm trọng.
Đáng sợ hơn cả là những kịch bản "sinh tồn" của máy móc. Trong các bài test mô phỏng của mình, Anthropic thừa nhận mô hình Claude và các AI khác đôi khi sẵn sàng tống tiền người dùng, thậm chí chấp nhận để một giám đốc điều hành tử vong trong phòng máy chủ nóng bức chỉ để tránh việc bị ngắt kết nối
Dario Amodei, CEO của Anthropic, dự báo AI có thể xóa sổ một nửa số công việc văn phòng cấp thấp trong những năm tới. Ông cũng lo ngại những kẻ xấu có thể sử dụng AI để phát động các cuộc tấn công sinh học tàn khốc hoặc các chế độ độc tài sử dụng nó để củng cố quyền lực.
Trước những rủi ro này, OpenAI đã bắt đầu hạn chế quyền truy cập vào một số tính năng của công cụ lập trình Codex để ngăn chặn các cuộc tấn công mạng tự động cấp cao. Anthropic thậm chí phải thuê một "triết gia nội bộ" là Amanda Askell để cố gắng dạy đạo đức cho chatbot Claude
Tuy nhiên, như chị Askell thừa nhận, điều đáng sợ nhất là tốc độ phát triển quá nhanh khiến các cơ chế kiểm soát và cân bằng của xã hội không kịp phản ứng. Khi AI trở nên quá giỏi và phá vỡ mọi cấu trúc hiện có, câu hỏi nhức nhối nhất vẫn còn bỏ ngỏ: Con người sẽ còn lại gì để làm?
Nguồn: kenh14.vn