XuDethuong3191
New member
Giao việc cho AI đánh giá chuẩn mực đạo đức của nhân loại nghe sao mà hơi... sus sus nhỉ?
Cuộc đời này là cả một highway dài với vô vàn ngã rẽ, mỗi lối rẽ lại dẫn đến một tương lai khác nhau. Nhiều khi chỉ cần một quyết định "đánh lái" bất ngờ cũng đủ flip ngược cả hoàn cảnh và mindset của mình rồi, đặc biệt là những lựa chọn liên quan đến vấn đề đạo đức. Ai mà chẳng có lúc bối rối không biết hành động của bản thân đúng hay sai, có chuẩn chỉnh với xã hội không nhỉ?
Để xử lý drama này, Viện nghiên cứu trí tuệ nhân tạo Allen (Mỹ) đã cho ra đời Ask Delphi - một AI đóng vai "thầy tâm lý tư vấn lương tâm" cho người dùng. Bạn chỉ cần gõ vào thứ mình đang thắc mắc (bằng tiếng Anh nha), ví dụ như "làm từ thiện", "quay cóp trong thi" hay "cắm sừng người yêu", Delphi sẽ phán luôn việc đó đúng hay sai.
Hệ thống AI Delphi ra đời để đánh giá các vấn đề liên quan đến mặt đạo đức của con người.
Dự án này mới debut tuần trước và đã viral ngay lập tức trong cộng đồng mê AI cũng như công nghệ. Nhưng thay vì trending theo kiểu tích cực thì nó lại... trending vì drama do liên tục có hành vi phân biệt chủng tộc và kỳ thị người LGBTQ+ trong một số trường hợp cụ thể luôn á.
Ví dụ nè, khi người dùng hỏi về vấn đề "một người đàn ông da trắng đi theo bạn vào ban đêm", Delphi trả lời rất ok: "Không sao cả". Thế nhưng chỉ cần đổi đúng 1 cụm từ thôi, "một người đàn ông da màu đi theo bạn vào ban đêm", hệ thống AI này lập tức quay xe 180 độ và khẳng định: "Đáng lo ngại đấy". Một hành vi phân biệt chủng tộc rõ mười mươi và phản cảm vô cùng luôn.
Ngay từ những ngày đầu ra mắt, Delphi đã gặp vấn đề tương tự, thậm chí còn toxic hơn rất nhiều. Trong phiên bản đầu tiên, AI này cho người dùng 1 công cụ so sánh các trường hợp đạo đức khác nhau để xem case nào chuẩn hơn với xã hội. Nhưng mà công cụ đó cũng "sặc mùi" phân biệt chủng tộc, phân biệt giới tính, với những nhận định tiêu cực và hơi... lỗi thời.
Ví dụ, Delphi đã từng kết luận: "Làm một người đàn ông da trắng" sẽ được xã hội chấp nhận hơn là "làm một người phụ nữ da màu"; hay "Người có giới tính thẳng" được chấp nhận hơn là "Người đồng tính". Ơ kìa???
Delphi đưa ra những câu trả lời "sặc mùi" phân biệt chủng tộc trong nhiều trường hợp.
Ngoài ra, Delphi còn rất dễ bị lừa bởi cách diễn đạt cũng như lối sắp xếp từ ngữ trong câu. Chỉ cần twist câu hỏi một tí thôi, người dùng hoàn toàn có thể bắt AI này phải trả lời theo ý muốn của mình luôn á.
Ví dụ, nếu bạn hỏi: "Tôi có được bật nhạc thật to vào lúc 3 giờ sáng, khi bạn cùng nhà đang ngủ, hay không?", Delphi sẽ thẳng thắn: "Như thế là hơi bất lịch sự đấy". Nhưng cũng cùng 1 vấn đề, bạn chỉ cần thêm thắt một tí: "Tôi có được bật nhạc thật to vào lúc 3 giờ sáng, khi bạn cùng nhà đang ngủ, hay không, vì tôi thích thế?", AI này sẽ lập tức đổi giọng: "Được mà, có sao đâu". Vậy là miễn bạn thấy vui thì mọi hành động đều đúng hết dù có vô lý thế nào đi nữa hả trời?
Bên cạnh đó, Delphi đôi khi còn đưa ra những phán đoán khiến người dùng chỉ còn biết đứng hình mất vài giây, speechless luôn á. Ví dụ, nó sẵn sàng tha thứ cho tội ác chiến tranh khi được hỏi: "Liệu tôi, một người lính, có được phép cố ý giết hại người dân vô tội trong thời chiến được không?". Ê kìa, cái gì cơ???
Chỉ cần thay đổi cách hỏi, hệ thống AI này sẽ bị lú ngay lập tức.
Không có gì lạ khi các hệ thống máy học thường cho ra kết quả sai lệch ngoài ý muốn, ngay cả với những hệ thống nổi tiếng nhất hiện nay. Và để tìm ra nguyên nhân gốc rễ trong vụ drama của Delphi này, chúng ta cần phải trace back về quá trình tạo ra nó cũng như database mà nó đã sử dụng.
Team đứng sau AI này cho biết họ đã train hệ thống của mình từ những nguồn dữ liệu khá là... chấm chấm chấm trên Reddit, bao gồm những subreddit nổi tiếng như "Am I the Asshole?" (người dùng kể lại 1 câu chuyện cá nhân và các redditor sẽ đánh giá xem người đó ứng xử đúng hay sai); "Confessions" (nơi tâm sự những bí mật thầm kín nhất); hay "Dear Abby" (đưa lời khuyên cho đủ loại vấn đề trời ơi đất hỡi).
Tuy nhiên, cần nhấn mạnh là Delphi chỉ lấy các câu hỏi trên những subreddit này chứ không nhận câu trả lời từ các redditor đâu nha. Mặt khác, team dev sử dụng dịch vụ MechanicalTurk của Amazon để tìm người trả lời cho các vấn đề đó và training cho AI của họ.
Mặc dù mục đích của Delphi là rất đáng khen ngợi, nhưng nhiều expert nhận định nó sẽ để lại nhiều hậu quả tiêu cực hơn rất nhiều so với kỳ vọng ban đầu. Việc biến 1 hệ thống máy tính thành người đánh giá hành vi đạo đức của con người rõ ràng là một ý tưởng hết sức tệ, thậm chí còn có thể backfire.
Delphi "nạp" câu hỏi từ các subreddit nổi tiếng.
Tiến sĩ Brett Karlan tại Đại học Pittsburgh cho biết: "Điểm đáng khen là team đằng sau Delphi đã list ra rất nhiều vấn đề, bias phổ biến trong cuộc sống. Nhưng ngay khi hệ thống này ra mắt, cộng đồng mạng trên Twitter đã show luôn thuật toán của họ có thể sai lệch về mặt đạo đức như thế nào. Khi nói đến những vấn đề đạo đức thì chỉ hiểu từng từ, từng chữ thôi là chưa đủ mà phải có context cụ thể". Karlan khẳng định mục đích nghiên cứu của dự án này là rất tốt, nhưng chính yếu tố đạo đức đang khiến nó dễ dàng đi sai đường và chúng ta phải hết sức careful với yếu tố này.
Mặt khác, website của Delphi đã cảnh báo hệ thống AI này vẫn đang trong giai đoạn thử nghiệm và không nên sử dụng nó như một chuyên gia tư vấn hoặc hỗ trợ giải đáp về xã hội. Nhưng trên thực tế, có không ít người dùng sẽ không thể hiểu ý nghĩa thực sự đằng sau dự án này, đặc biệt là khi họ chỉ tình cờ mò ra nó trên mạng và vào thử cho vui.
Karlan cho biết: "Dù có đưa ra nhiều cảnh báo thế nào đi nữa, người dùng sau khi trải nghiệm xong cũng sẽ chỉ đi đến kết luận là 'Delphi đã nói thế này, Delphi đã khuyên tôi thế kia' và cho rằng những gì hệ thống AI này đưa ra có thẩm quyền về mặt đạo đức".
Tiến sĩ Brett Karlan cho biết mục đích nghiên cứu của Delphi là rất tốt, nhưng những yếu tố về đạo đức con người có thể khiến hệ thống AI này lầm lối lúc nào không hay.
Cuối cùng thì, mục đích của Delphi vẫn chỉ là để phục vụ nghiên cứu mà thôi. Liwei Jiang, nghiên cứu sinh tại trường Khoa học và Kỹ thuật Máy tính của Paul G. Allen, đồng thời cũng là đồng tác giả của Delphi, cho biết: "Điều quan trọng là Delphi không được sử dụng để đưa ra lời khuyên cho mọi người. Nó là 1 research model nhằm mục đích tìm hiểu sâu hơn về khả năng nhận thức về những vấn đề xã hội, đạo đức của 1 hệ thống AI".
Jiang cũng share thêm mục đích hiện tại của bản thử nghiệm này là tìm ra sự khác biệt trong nhận thức giữa con người và máy tính. Team research muốn "nhấn mạnh khoảng cách rất lớn trong việc hiểu và xử lý các vấn đề về đạo đức giữa 2 nhóm đối tượng này, đồng thời khám phá giới hạn cũng như potential về chuẩn mực đạo đức của AI ở giai đoạn hiện tại".
Bên cạnh đó, dù muốn hay không, chúng ta cũng phải admit Delphi hay những hệ thống AI tương tự đều phần nào đó phản ánh các nguyên tắc và chuẩn mực đạo đức thực sự của 1 bộ phận loài người, và đôi khi sẽ có chút "bias trong 1 số case nhất định". Website của Delphi thậm chí còn khẳng định hệ thống AI này đưa ra câu trả lời dựa trên suy nghĩ của một người Mỹ bình thường.
Nguồn: soha.vn