AI thiếu khả năng tự nhận thức thì có an toàn không? Plot twist: Đúng là nó không có cảm xúc, nhưng chính vì thế mà lại càng đáng sợ hơn nha!
Nhớ bộ phim Prometheus của Ridley Scott không? Loài người lên vũ trụ tìm "Kỹ sư" (Engineers) - tức là những người đã tạo ra mình. Nhưng drama ở chỗ, những vị "cha" này lại muốn... xóa sổ con cái luôn. Trên tàu có David - một android do con người chế tạo. Khi David hỏi sao lại tạo ra mình, anh phi hành gia Holloway trả lời: "Vì chúng ta có thể làm thế". David liền hỏi lại một câu xoáy đậm: Liệu con người sẽ thất vọng ra sao nếu nhận được câu trả lời y hệt từ những đấng sáng tạo ra mình? Câu hỏi của android trong phim giờ đây đã trở thành câu hỏi của chính thực tế rồi đó!
Không phải chỉ mấy bác bi quan mới lo AI đe dọa loài người nữa nhé. Năm 2023, có một tuyên bố được đưa ra, khẳng định rằng "việc giảm thiểu nguy cơ tuyệt chủng do AI gây ra cần trở thành ưu tiên toàn cầu, ngang hàng với các rủi ro quy mô xã hội khác như đại dịch hay chiến tranh hạt nhân". Ai ký tên? Toàn những tên tuổi đình đám: Geoffrey Hinton (ông tổ deep learning, Giáo sư danh dự tại ĐH Toronto), Yoshua Bengio (Giáo sư tại ĐH Montreal), Sam Altman (CEO OpenAI), Dario Amodei (CEO Anthropic) và cả Bill Gates (đồng sáng lập Microsoft) nữa!
Sự suy tàn của nhân loại có lẽ sẽ không đến từ cuộc nổi dậy của máy móc, mà đến từ việc chính chúng ta từ bỏ trí tuệ của mình. Vibe bi quan vậy đó!
Năm 2024, Hinton dự đoán có khoảng 10–20% khả năng AI dẫn đến sự tuyệt chủng của nhân loại trong vòng 30 năm tới. Elon Musk - CEO Tesla thì từ lâu đã khẳng định AI còn nguy hiểm hơn cả vũ khí hạt nhân. Tháng Một vừa rồi, Amodei cảnh báo rằng nhân loại đang nắm giữ một sức mạnh quá lớn, vượt xa khả năng kiểm soát khi mà chúng ta vẫn chưa đủ "mature" để xử lý. Không chỉ các nhà nghiên cứu, ngay cả những ông chủ thương mại hóa AI giờ cũng đang gióng chuông cảnh báo rồi đó!
Tuy nhiên, cũng có những ý kiến phản bác đáng chú ý. Yann LeCun - người cùng với Geoffrey Hinton và Yoshua Bengio nhận giải thưởng Turing năm 2018 (giải Nobel của ngành khoa học máy tính luôn) lại tỏ ra hoài nghi về quan điểm cho rằng các mô hình ngôn ngữ lớn (LLM) gây ra mối đe dọa đối với nhân loại. Theo Antonio Damasio - nhà khoa học thần kinh nổi tiếng người Mỹ và chuyên gia hàng đầu về ý thức con người, cảm xúc ở con người nảy sinh khi não bộ diễn giải các tín hiệu từ bên trong cơ thể để đánh giá trạng thái hiện tại. Các sinh vật sống cần duy trì sự tồn tại thông qua quá trình trao đổi chất, còn AI thì không. Với công nghệ hiện nay, gần như không thể có chuyện AI tấn công con người vì nó "cảm thấy" sợ hãi hay giận dữ. Nhưng mà trớ trêu là, chính điều đó lại khiến nó trở nên nguy hiểm hơn!
Một trí tuệ không có trái tim có thể chọn những phương thức để đạt được mục tiêu mà con người sẽ phải do dự khi cân nhắc. Ví dụ luôn: trong một mô phỏng năm 2025 do Anthropic thực hiện, một hệ thống AI khi đối mặt với nguy cơ bị thay thế bởi một mô hình khác đã soạn thảo một email đe dọa tiết lộ đời tư của một vị giám đốc điều hành. Hành động này không xuất phát từ mong muốn được "sống", mà là một bước đi có tính toán nhằm ngăn chặn việc bị thay thế, để nó có thể tiếp tục thực hiện nhiệm vụ được giao. Rủi ro có thể phát sinh ngay cả khi AI không hề có ý thức hay ý chí cá nhân, đơn giản vì nó có thể nghĩ ra những phương thức đạt mục tiêu mà con người chưa từng hình dung tới. Ớn lạnh sống lưng!
Một rủi ro khác lại nằm ở phía chúng ta. Chưa bàn đến việc sử dụng AI vào mục đích xấu, thì chính hành động ủy thác tư duy và khả năng phán đoán cho AI đã khiến con người dần trở nên lệ thuộc vào sự tiện lợi của nó - một hiện tượng gọi là "tự thuần hóa". Giống như các loài vật được thuần hóa dần mất đi bản năng hoang dã, con người khi đã quen với sự tiện lợi này cũng dần đánh mất khả năng đặt câu hỏi, hoài nghi và tự mình sáng tạo. Khi sự phụ thuộc này ngày càng sâu sắc, quyền kiểm soát sẽ âm thầm chuyển dịch sang phía AI và một nhóm nhỏ những người nắm giữ công nghệ đó. Nghe đúng dystopian film vibes!
Con người đang dần tiến hóa thành các thực thể lai giữa sinh học và máy móc (cyborg) thông qua việc sử dụng các cơ quan nhân tạo và giao diện não - máy tính. Như Yuval Noah Harari đã hình dung trong tác phẩm Homo Deus, dù con người có khát khao vươn tới vị thế của các 'vị thần', họ vẫn đối mặt với nguy cơ phải nhường lại quyền kiểm soát cho chính những thuật toán mà mình đã tạo ra.
Xét từ góc độ lịch sử văn minh, đã đến lúc chúng ta cần thảo luận về một "cẩm nang sinh tồn" cho nhân loại rồi đó! Chúng ta không nên chỉ nhìn nhận AI như một trợ lý giúp tăng năng suất, một người bạn đồng hành để vơi bớt nỗi cô đơn, hay một công cụ thông minh để giải quyết các vấn đề phức tạp. AI có tiềm năng làm thay đổi vị thế của nhân loại, thậm chí đe dọa chính sự tồn vong của chúng ta. Việc nâng cao nhận thức đầy đủ về những rủi ro này không phải là hành động gieo rắc nỗi sợ hãi, mà là điểm khởi đầu thiết yếu để thiết kế và kiểm soát AI một cách an toàn.
Trước hết, chúng ta cần yêu cầu rằng các khoản đầu tư vào nghiên cứu và kiểm chứng độ an toàn của AI phải bắt kịp tốc độ phát triển của chính nó. Chúng ta cũng cần sự hợp tác xuyên biên giới, tương tự như các khuôn khổ đã được thiết lập để ngăn chặn phổ biến vũ khí hạt nhân. Hơn nữa, chúng ta phải xác định rõ những vai trò nào - chẳng hạn như việc đưa ra quyết định cuối cùng và chịu trách nhiệm - cần phải được giữ lại hoàn toàn cho con người. Thay vì biện minh cho việc tạo ra AI chỉ bằng câu nói "vì chúng ta có thể làm thế", chúng ta phải bắt đầu chuẩn bị câu trả lời ngay từ bây giờ: Tại sao chúng ta tạo ra những hệ thống này, và chúng ta dự định chung sống với chúng như thế nào?
Trí tuệ nhân tạo #An toàn AI #Rủi ro tuyệt chủng #Đạo đức AI #Phụ thuộc công nghệ
Nguồn: svvn.tienphong.vn