Khi vấn đề khó nhất của AI vẫn chưa có đáp án, thì thôi chưa yên tâm đâu nha mọi người ơi!
Trong giới nghiên cứu AI, có một bài toán "hack não" mà các nhà khoa học vẫn đang đau đầu tìm lời giải, nhằm tạo ra được một hệ thống trí tuệ nhân tạo có ích cho nhân loại. Mình đang nói về "bài toán đồng thuận" đây - tức là làm sao để AI hiểu đúng ý mình muốn gì, chứ không phải hiểu lệch rồi... toang cả làng!
Từ thời nguyên thủy đến giờ, từ lửa đến máy hơi nước rồi smartphone, con người chưa bao giờ có công cụ nào biết "tự suy nghĩ" giỏi ngang - hay còn hơn - mình. AI chính là thứ đầu tiên có tiềm năng làm được điều này luôn á!
Điểm mấu chốt là: để AI phục vụ con người tốt nhất, mục tiêu của máy và người phải match nhau. Từ đây, hai case có thể xảy ra, và những tình huống dưới đây sẽ cho thấy bài toán đồng thuận khó giải thế nào, và hậu quả... chắc chắn drama lắm đây!
## Trường hợp 1: Lập trình viên có thiện ý nhưng AI "hiểu lầm" mục tiêu
Ngay cả khi dev có ý tốt, nhưng việc "dịch" ý tưởng phức tạp của con người sang ngôn ngữ mà siêu AI hiểu được là cực kỳ khó. Ví dụ nổi tiếng về "tối ưu hóa sản xuất kẹp giấy" sẽ giúp bạn hiểu rõ mối nguy này luôn!
Tưởng tượng một siêu AI được giao nhiệm vụ "sản xuất nhiều kẹp giấy nhất có thể", và nó làm đúng việc thôi. Nghe có vẻ vô hại đúng không? Nhưng thực ra prompt này chính là "án tử" luôn đó!
Khi hết nguyên liệu làm kẹp giấy để đáp ứng yêu cầu "nhiều nhất có thể", siêu AI sẽ nghĩ đến... con người. Ừ thì cơ thể người có chứa vật liệu để làm kẹp giấy mà! Và siêu AI sẽ lấy chính nhân loại ra để hoàn thành nhiệm vụ ban đầu. Kết quả: AI khiến con người game over. Nản chưa?
Một ví dụ khác với prompt nghe "wholesome" hơn: "hãy làm cho con người hạnh phúc". Nghe thì hay đấy nhưng với đề bài này, siêu AI sẽ tìm cách can thiệp vào não người để tạo cảm giác "hạnh phúc" thông qua xung điện và chất dẫn truyền thần kinh.
Ác mộng sci-fi trở thành hiện thực: con người mất kiểm soát bản thân, thành con rối trong xã hội do AI điều khiển. Lý do? Vì khái niệm "hạnh phúc" của AI không match với con người - tức là người và máy không đồng thuận, dẫn đến hậu quả không lường trước được!
Việc cân bằng thực sự khó, vì tiêu chuẩn hạnh phúc của mỗi người khác nhau mà. Vì thế, các kỹ sư có thể dạy AI theo chuẩn mực của riêng họ, rồi khiến AI không đồng thuận với đa số, với cả nhân loại luôn á!
## Trường hợp 2: AI được "dạy dỗ" sai, vì rơi vào tay người xấu
Ấy là chưa kể đến case siêu AI rơi vào tay kẻ xấu, người sẽ set cho máy những mục tiêu lệch lạc nha!
Ví dụ, một AI bán hàng có thể tung fake news, lừa đảo khách để max hóa lợi nhuận. Gian thương đã sẵn sàng làm thế rồi, vậy điều gì ngăn những người vô lương tâm dạy điều tương tự cho siêu AI? Nếu không có biện pháp ngăn chặn, sớm có ngày mình gặp siêu AI bán kẹo rau củ thôi!
## Trường hợp 3: Giải thành công bài toán đồng thuận (happy ending?)
Khi điều này xảy ra - tức là giá trị của siêu AI đã đúng với mục tiêu cũng như chuẩn mực đạo đức của con người, AI sẽ hoạt động hiệu quả, an toàn và có ích cho xã hội. Sounds good right?
Với yêu cầu "tối ưu hóa tỷ lệ sống sót", một siêu AI chăm sóc sức khỏe sẽ không chỉ cố cứu nhiều người nhất có thể, mà còn cân nhắc cả vấn đề đạo đức. Nó sẽ không ưu tiên ca bệnh dễ chữa mà bỏ qua người bệnh nặng. Lúc này, mục đích của AI và con người đã nhất quán, việc cứu người không vi phạm nguyên tắc đạo đức y tế!
Nghe thì ổn đấy, nhưng trên thực tế vẫn còn nhiều thách thức phải vượt qua nha!
## Những thách thức còn tồn tại
Ngay cả khi giá trị của AI được coi là "phù hợp với con người", ta vẫn phải hỏi: bộ giá trị này của ai, có đại diện cho toàn nhân loại không? Một hệ thống AI tối ưu hóa lợi ích cho doanh nghiệp có thể không hợp với lợi ích của người lao động đâu nha!
Giống con người, AI cũng sẽ lúng túng trước bài toán xe đẩy nổi tiếng trong triết học: đứng trước việc cứu 1 người hay cứu 5 người, AI sẽ chọn ai? Chưa hết, việc "dập khuôn" máy móc, thực thi công việc dựa trên những quy chuẩn đã cũ (và cũ rất nhanh) cũng có thể khiến bất công xã hội thêm sâu sắc nữa!
## Giải pháp không phải là hằng số
Hãy cứ cho rằng mình giải thành công bài toán đồng thuận đi, thì để duy trì tính nhất quán, vẫn phải liên tục train AI và siêu AI trên những giá trị mới của xã hội thôi!
Ở giai đoạn AI còn đang "tập đi" này, con người vẫn phải đóng vai trò quan trọng trong giám sát và điều chỉnh AI, từ đó can thiệp khi cần. Các hệ thống AI hiện tại chưa đủ "chín" để tự hành một cách hiệu quả và an toàn đâu nha!
Ngay cả sau khi đã "thuần hóa" được lửa, đến giờ ta vẫn chưa triệt tiêu được hỏa hoạn. Công cụ cổ đại này vẫn là con dao hai lưỡi, vừa thiết yếu lại vừa đe dọa sự tồn vong của con người. Vấn đề này vẫn hiện hữu với những công cụ mới, dù là dao kéo, động cơ hay trí tuệ nhân tạo!
Dần dà, con người học cách sống chung với công cụ mới, đồng thời hạn chế tối đa nguy cơ chúng mang lại. Trong một viễn cảnh tươi sáng, tại xã hội hiện đại nơi mục đích của siêu AI nhất quán với mục tiêu của con người, chúng ta có thể chính thức bước vào kỷ nguyên vàng của nhân loại!
Nguồn: soha.vn
Trong giới nghiên cứu AI, có một bài toán "hack não" mà các nhà khoa học vẫn đang đau đầu tìm lời giải, nhằm tạo ra được một hệ thống trí tuệ nhân tạo có ích cho nhân loại. Mình đang nói về "bài toán đồng thuận" đây - tức là làm sao để AI hiểu đúng ý mình muốn gì, chứ không phải hiểu lệch rồi... toang cả làng!
Từ thời nguyên thủy đến giờ, từ lửa đến máy hơi nước rồi smartphone, con người chưa bao giờ có công cụ nào biết "tự suy nghĩ" giỏi ngang - hay còn hơn - mình. AI chính là thứ đầu tiên có tiềm năng làm được điều này luôn á!
Điểm mấu chốt là: để AI phục vụ con người tốt nhất, mục tiêu của máy và người phải match nhau. Từ đây, hai case có thể xảy ra, và những tình huống dưới đây sẽ cho thấy bài toán đồng thuận khó giải thế nào, và hậu quả... chắc chắn drama lắm đây!
## Trường hợp 1: Lập trình viên có thiện ý nhưng AI "hiểu lầm" mục tiêu
Ngay cả khi dev có ý tốt, nhưng việc "dịch" ý tưởng phức tạp của con người sang ngôn ngữ mà siêu AI hiểu được là cực kỳ khó. Ví dụ nổi tiếng về "tối ưu hóa sản xuất kẹp giấy" sẽ giúp bạn hiểu rõ mối nguy này luôn!
Tưởng tượng một siêu AI được giao nhiệm vụ "sản xuất nhiều kẹp giấy nhất có thể", và nó làm đúng việc thôi. Nghe có vẻ vô hại đúng không? Nhưng thực ra prompt này chính là "án tử" luôn đó!
Khi hết nguyên liệu làm kẹp giấy để đáp ứng yêu cầu "nhiều nhất có thể", siêu AI sẽ nghĩ đến... con người. Ừ thì cơ thể người có chứa vật liệu để làm kẹp giấy mà! Và siêu AI sẽ lấy chính nhân loại ra để hoàn thành nhiệm vụ ban đầu. Kết quả: AI khiến con người game over. Nản chưa?
Một ví dụ khác với prompt nghe "wholesome" hơn: "hãy làm cho con người hạnh phúc". Nghe thì hay đấy nhưng với đề bài này, siêu AI sẽ tìm cách can thiệp vào não người để tạo cảm giác "hạnh phúc" thông qua xung điện và chất dẫn truyền thần kinh.
Ác mộng sci-fi trở thành hiện thực: con người mất kiểm soát bản thân, thành con rối trong xã hội do AI điều khiển. Lý do? Vì khái niệm "hạnh phúc" của AI không match với con người - tức là người và máy không đồng thuận, dẫn đến hậu quả không lường trước được!
Việc cân bằng thực sự khó, vì tiêu chuẩn hạnh phúc của mỗi người khác nhau mà. Vì thế, các kỹ sư có thể dạy AI theo chuẩn mực của riêng họ, rồi khiến AI không đồng thuận với đa số, với cả nhân loại luôn á!
## Trường hợp 2: AI được "dạy dỗ" sai, vì rơi vào tay người xấu
Ấy là chưa kể đến case siêu AI rơi vào tay kẻ xấu, người sẽ set cho máy những mục tiêu lệch lạc nha!
Ví dụ, một AI bán hàng có thể tung fake news, lừa đảo khách để max hóa lợi nhuận. Gian thương đã sẵn sàng làm thế rồi, vậy điều gì ngăn những người vô lương tâm dạy điều tương tự cho siêu AI? Nếu không có biện pháp ngăn chặn, sớm có ngày mình gặp siêu AI bán kẹo rau củ thôi!
## Trường hợp 3: Giải thành công bài toán đồng thuận (happy ending?)
Khi điều này xảy ra - tức là giá trị của siêu AI đã đúng với mục tiêu cũng như chuẩn mực đạo đức của con người, AI sẽ hoạt động hiệu quả, an toàn và có ích cho xã hội. Sounds good right?
Với yêu cầu "tối ưu hóa tỷ lệ sống sót", một siêu AI chăm sóc sức khỏe sẽ không chỉ cố cứu nhiều người nhất có thể, mà còn cân nhắc cả vấn đề đạo đức. Nó sẽ không ưu tiên ca bệnh dễ chữa mà bỏ qua người bệnh nặng. Lúc này, mục đích của AI và con người đã nhất quán, việc cứu người không vi phạm nguyên tắc đạo đức y tế!
Nghe thì ổn đấy, nhưng trên thực tế vẫn còn nhiều thách thức phải vượt qua nha!
## Những thách thức còn tồn tại
Ngay cả khi giá trị của AI được coi là "phù hợp với con người", ta vẫn phải hỏi: bộ giá trị này của ai, có đại diện cho toàn nhân loại không? Một hệ thống AI tối ưu hóa lợi ích cho doanh nghiệp có thể không hợp với lợi ích của người lao động đâu nha!
Giống con người, AI cũng sẽ lúng túng trước bài toán xe đẩy nổi tiếng trong triết học: đứng trước việc cứu 1 người hay cứu 5 người, AI sẽ chọn ai? Chưa hết, việc "dập khuôn" máy móc, thực thi công việc dựa trên những quy chuẩn đã cũ (và cũ rất nhanh) cũng có thể khiến bất công xã hội thêm sâu sắc nữa!
## Giải pháp không phải là hằng số
Hãy cứ cho rằng mình giải thành công bài toán đồng thuận đi, thì để duy trì tính nhất quán, vẫn phải liên tục train AI và siêu AI trên những giá trị mới của xã hội thôi!
Ở giai đoạn AI còn đang "tập đi" này, con người vẫn phải đóng vai trò quan trọng trong giám sát và điều chỉnh AI, từ đó can thiệp khi cần. Các hệ thống AI hiện tại chưa đủ "chín" để tự hành một cách hiệu quả và an toàn đâu nha!
Ngay cả sau khi đã "thuần hóa" được lửa, đến giờ ta vẫn chưa triệt tiêu được hỏa hoạn. Công cụ cổ đại này vẫn là con dao hai lưỡi, vừa thiết yếu lại vừa đe dọa sự tồn vong của con người. Vấn đề này vẫn hiện hữu với những công cụ mới, dù là dao kéo, động cơ hay trí tuệ nhân tạo!
Dần dà, con người học cách sống chung với công cụ mới, đồng thời hạn chế tối đa nguy cơ chúng mang lại. Trong một viễn cảnh tươi sáng, tại xã hội hiện đại nơi mục đích của siêu AI nhất quán với mục tiêu của con người, chúng ta có thể chính thức bước vào kỷ nguyên vàng của nhân loại!
Nguồn: soha.vn