Năm 1966, Joseph Weizenbaum vô tình mở hộp Pandora khi tạo ra ELIZA – chatbot đầu tiên trong lịch sử Nhưng plot twist là điều khiến ông sợ hãi không phải là "đứa con" AI của mình, mà chính là cách con người... điên cuồng muốn được nó thấu hiểu!
ELIZA: Từ thí nghiệm đơn giản đến cú shock tâm lý
Câu chuyện này thuộc hàng bi kịch nhất trong lịch sử AI nha mọi người ơi! Joseph Weizenbaum chính là người đặt viên gạch đầu tiên cho các mô hình ngôn ngữ lớn kiểu ChatGPT hay Claude mà chúng ta đang xài ngày nay. Nhưng ngược đời là ông cũng là người đầu tiên... cố gắng dập tắt sự cuồng nhiệt dành cho nó
Tất cả bắt đầu tại MIT giữa thập niên 60. Weizenbaum code ELIZA – một chương trình siêu đơn giản đóng vai bác sĩ tâm lý. Nói thật thì về mặt kỹ thuật nó thô sơ vãi: chỉ quét keyword trong câu người dùng nói rồi đặt lại câu hỏi theo template có sẵn thôi. Không có tư duy gì cả, không có cảm xúc gì cả, chỉ là mấy dòng code vô tri vô giác. Ban đầu Weizenbaum muốn chứng minh rằng giao tiếp người-máy shallow lắm đó!
Nhưng kết quả? Một cú shock tâm lý cho chính tác giả luôn
Có một giai thoại legendary kể lại rằng: thư ký của Weizenbaum – người mà biết rõ ELIZA chỉ là chương trình máy tính – đã yêu cầu ông rời khỏi phòng để bà có thể "tâm sự riêng" với cỗ máy! Và không chỉ có bà ấy đâu, nhiều người khác cũng trút bầu tâm sự, chia sẻ những bí mật thầm kín nhất với một thuật toán
Weizenbaum gọi hiện tượng này là "Hiệu ứng ELIZA" – tức là ảo giác rằng máy móc có trí tuệ và cảm xúc, được tạo ra bởi chính sự chiếu xạ của con người.
Từ developer thành... anti-fan số 1
Sự kiện này đã thay đổi Weizenbaum mãi mãi. Từ một nhà khoa học máy tính, ông trở thành nhà triết học đạo đức, một "kẻ nổi loạn" trong chính giới công nghệ của mình. Vậy tại sao ông lại phản ứng mạnh đến vậy?
Câu trả lời nằm ở quá khứ đau thương: Là người Do Thái từng phải chạy trốn khỏi Đức Quốc xã, Weizenbaum hiểu rõ hơn ai hết cái giá của việc "phi nhân hóa". Ông rùng mình khi nghe đồng nghiệp tại MIT ví von con người là "những cỗ máy bằng thịt" (meat machines). Với ông, đó không phải là phép so sánh khoa học thú vị, mà là mầm mống của tội ác
Khi ranh giới giữa người và máy bị xóa nhòa, khi con người bị xem như cỗ máy xử lý thông tin lỗi thời cần được thay thế, đó là lúc xã hội mất đi tính nhân văn. Ông nhìn thấy sự tương đồng đáng sợ giữa tư duy kỹ trị lạnh lùng này với những lý thuyết đã dẫn đến nạn diệt chủng Holocaust.
Nỗi sợ thực sự không phải kiểu Hollywood
Nỗi sợ lớn nhất của Weizenbaum không phải là viễn cảnh AI trỗi dậy tiêu diệt loài người kiểu phim Hollywood nha! Ông sợ một cái kết tinh vi và đáng buồn hơn: Con người tự nguyện dâng hiến quyền tự quyết và đạo đức của mình cho máy móc
Ông lo ngại rằng chúng ta sẽ thờ công nghệ như "thần tượng giả", tin tưởng vào phán đoán của thuật toán hơn là lòng trắc ẩn của đồng loại.
Brian Merchant – tác giả cuốn Blood in the Machine – nhận định rất đúng về tầm nhìn của Weizenbaum: "Ông ấy nhận ra rằng con người luôn khao khát được kết nối, và sự dễ dàng mà một chương trình máy tính có thể lợi dụng khao khát đó sẽ khiến chúng ta trở thành con mồi".
Lời cảnh báo vượt thời gian
Giờ đây, khi chúng ta đang sống trong kỷ nguyên AI bùng nổ, những lời cảnh báo của Weizenbaum từ nửa thế kỷ trước lại càng thấm thía hơn bao giờ hết Chúng ta thấy người ta yêu chatbot, hỏi ý kiến AI về các quyết định đạo đức, và thậm chí để thuật toán quyết định ai được vay tiền hay ai được tuyển dụng.
Weizenbaum đã qua đời năm 2008, nhưng di sản ông để lại không chỉ là dòng code của ELIZA. Đó là lời nhắc nhở đanh thép rằng: Công nghệ không có lỗi, lỗi nằm ở sự yếu đuối của con người khi tìm kiếm sự thấu hiểu từ những vật thể vô tri.
Nguồn: genk.vn