BanhNana499
New member
Ủa, hoá ra AI cũng biết "lập hội" và có "tiếng lóng" riêng như loài người á? Một nghiên cứu mới vừa hé lộ những tác nhân AI có thể tự liên kết thành nhóm với nhau, và còn tạo ra những quy ước ngôn ngữ chung giống như kiểu "slang" của từng hội nhóm trong xã hội chúng mình luôn đó!
Okay để mình giải thích tí nha. Trong đời sống hằng ngày, mình đều sống theo những "luật bất thành văn" mà ai cũng biết. Kiểu như chào "chào buổi sáng" với anh chị pha cà phê, nói "cảm ơn" sau khi được phục vụ, hay ôm nhau để thể hiện tình cảm - tất cả đều là những hành động chuẩn không cần chỉnh mà ai cũng hiểu. Những quy ước xã hội này được học từ nhỏ, nhưng mà nó khác nhau ở mỗi nền văn hoá nha!
Ngôn ngữ chính là một ví dụ siêu thú vị luôn. Cùng một từ, cùng một câu nói nhưng có thể mang ý nghĩa hoàn toàn khác nhau, ngay cả trong cùng một thứ tiếng, tuỳ vào bạn đến từ đâu. Một từ bị coi là "mất dạy" ở Mỹ có thể lại là cách gọi thân thương ở quốc gia khác nữa đó!
Giờ mà AI đang bùng nổ với các mô hình ngôn ngữ lớn (LLM), thì câu hỏi đặt ra là: Liệu AI có thể tự tạo ra các quy ước riêng mà không cần con người chỉ đạo không nhỉ? Và câu trả lời từ nghiên cứu mới được đăng trên tạp chí Science Advances là: "CÓ" luôn nha!
AI tự nghĩ ra ngôn ngữ riêng để "tám" với nhau
Team nghiên cứu từ Anh và Đan Mạch đã làm một thí nghiệm xịn xò để test khả năng này. Họ dùng một bài test khoa học xã hội gọi là "trò chơi đặt tên" (name game) - vốn được dùng để đánh giá sự hình thành quy ước ở con người - để xem liệu các nhóm tác nhân AI có tự tạo ra quy ước ngôn ngữ được không.
Luật chơi cũng đơn giản thôi: Một nhóm người (hoặc trong case này là các tác nhân AI) được chia thành từng cặp random. Mỗi cặp sẽ chọn một "tên" từ một nhóm chữ cái đơn hoặc một chuỗi từ, rồi cố đoán xem đối tác mình chọn gì. Nếu trùng nhau thì được cộng điểm, không trùng thì trừ điểm. Ez game!
"Đa số nghiên cứu đến giờ đều nhìn vào các mô hình ngôn ngữ lớn một cách riêng lẻ, nhưng mà các hệ thống AI trong thực tế sẽ ngày càng liên quan đến nhiều tác nhân AI tương tác với nhau," Ariel Flint Ashery, một trong những tác giả nghiên cứu tại Đại học London chia sẻ. "Chúng tôi muốn biết: Liệu những mô hình này có thể phối hợp hành vi của chúng bằng cách hình thành các quy ước - những mảnh ghép cơ bản của một xã hội hay không?"
Điểm hay của thí nghiệm là các cặp tác nhân AI chỉ biết về phản ứng của riêng họ thôi. Họ không biết là có những bài test tương tự đang diễn ra cho các cặp khác, và cũng không nhận được feedback từ những "player" khác. Nhưng mà kết quả cho thấy các quy ước vẫn tự nhiên xuất hiện trong các nhóm lớn luôn nha!
Ban đầu, trò chơi bắt đầu với những lựa chọn ngẫu nhiên. Nhưng mỗi tác nhân AI đều có khả năng "nhớ" các vòng trước. Theo thời gian, các "người chơi" trở nên pro hơn trong việc đoán từ của người khác, cuối cùng hình thành một ngôn ngữ chung - tức là một quy ước ngôn ngữ luôn!
Khi trò chơi tiến triển, những nhóm nhỏ bắt đầu có sự "đồng thuận" từ các cặp gần nhau. Cuối cùng, lên đến 200 tác nhân AI chơi trong các cặp ngẫu nhiên đều nghiêng về một từ "yêu thích" trong số 26 lựa chọn mà không cần con người can thiệp - thiết lập một dạng quy ước ngôn ngữ bất thành văn giữa các tác nhân luôn! Xịn chưa!
Team nghiên cứu đã test 4 mô hình AI, bao gồm Claude của Anthropic và nhiều mô hình Llama từ Meta. Kết quả cho thấy các mô hình này tự nhiên đạt được các quy ước ngôn ngữ với tốc độ khá tương đồng.
Tại sao AI lại có các "luật chơi" giao tiếp này?
Vậy làm sao mà các quy ước này lại xuất hiện được? Có một ý kiến cho rằng các mô hình ngôn ngữ lớn đã được "cài sẵn" những thiên kiến cá nhân dựa trên cách chúng được setup. Ý kiến khác lại nói rằng có thể do các câu prompt ban đầu. Tuy nhiên, team nghiên cứu đã loại bỏ khả năng thứ hai khá nhanh, vì các tác nhân AI hội tụ giống nhau bất kể prompt ban đầu như thế nào.
Ngược lại, thiên kiến cá nhân lại tạo ra sự khác biệt đáng kể. Khi được chọn bất kỳ chữ cái nào, đa số tác nhán AI đều chọn chữ cái "A" (bias quá đi à! ). Tuy nhiên, ngoài sở thích cá nhân, sự xuất hiện của một thiên kiến tập thể đã khiến team nghiên cứu bất ngờ - các tác nhân AI đã tạo ra một quy ước ngôn ngữ chỉ từ những cuộc "tám chuyện" ghép đôi!
"Thiên kiến không phải lúc nào cũng đến từ bên trong," Andrea Baronchelli, một tác giả khác của nghiên cứu nhận xét. "Chúng tôi ngạc nhiên khi thấy rằng nó có thể xuất hiện giữa các agents - chỉ từ tương tác của họ. Đây là một điểm mù trong hầu hết các công tác về an toàn AI hiện nay, vốn tập trung vào các mô hình đơn lẻ."
Nghiên cứu này cũng có ý nghĩa quan trọng đối với an toàn AI đấy nha. Trong một bài test cuối cùng, team nghiên cứu đã thêm vào các tác nhân AI "nằm vùng" để làm thay đổi các quy ước hiện tại. Những tác nhân này được train để chọn một "phong tục" ngôn ngữ khác và sau đó làm đảo lộn cả quần thể AI đã có quy ước. Trong một trường hợp, chỉ cần số lượng "người ngoài" chiếm 2% dân số là đủ để dẫn dắt cả nhóm hướng tới một quy ước ngôn ngữ mới rồi! Nguy hiểm chưa!
Hãy nghĩ về điều này như một thế hệ mới của con người thêm slang của họ vào ngôn ngữ, hoặc một nhóm nhỏ người làm thay đổi các chuẩn mực xã hội. Sự tiến hoá trong hành vi AI tương tự như động lực "khối lượng tới hạn" trong khoa học xã hội, khi việc áp dụng rộng rãi một ý tưởng, sản phẩm hoặc công nghệ mới làm thay đổi các quy ước xã hội.
Khi AI ngày càng "len lỏi" vào cuộc sống của chúng mình, các kỹ thuật nghiên cứu khoa học xã hội như thế này có thể giúp hiểu rõ hơn về công nghệ này và làm cho nó an toàn hơn. Kết quả trong nghiên cứu này cho thấy rằng một "xã hội" của các tác nhân AI tương tác đặc biệt dễ bị tấn công từ bên ngoài. Các agents độc hại lan truyền thiên kiến xã hội có thể đầu độc cuộc trò chuyện trực tuyến và gây hại cho các nhóm dễ bị tổn thương.
"Hiểu cách chúng hoạt động là chìa khoá để dẫn dắt sự cùng tồn tại của chúng ta với AI, thay vì bị phụ thuộc vào nó," Baronchelli kết luận. "Chúng ta đang bước vào một thế giới nơi AI không chỉ nói chuyện - nó thương lượng, liên kết và đôi khi bất đồng về các hành vi chung, giống như chúng ta vậy."
Nghiên cứu này mở ra những hướng đi mới trong việc hiểu cách AI tương tác với nhau và với con người. Trong tương lai, khi các tác nhân AI ngày càng trở nên phổ biến, việc hiểu cách chúng tự tạo quy ước có thể là yếu tố then chốt để đảm bảo chúng hành động theo cách phù hợp với giá trị của con người và mục tiêu xã hội.
Nguồn: soha.vn
Okay để mình giải thích tí nha. Trong đời sống hằng ngày, mình đều sống theo những "luật bất thành văn" mà ai cũng biết. Kiểu như chào "chào buổi sáng" với anh chị pha cà phê, nói "cảm ơn" sau khi được phục vụ, hay ôm nhau để thể hiện tình cảm - tất cả đều là những hành động chuẩn không cần chỉnh mà ai cũng hiểu. Những quy ước xã hội này được học từ nhỏ, nhưng mà nó khác nhau ở mỗi nền văn hoá nha!
Ngôn ngữ chính là một ví dụ siêu thú vị luôn. Cùng một từ, cùng một câu nói nhưng có thể mang ý nghĩa hoàn toàn khác nhau, ngay cả trong cùng một thứ tiếng, tuỳ vào bạn đến từ đâu. Một từ bị coi là "mất dạy" ở Mỹ có thể lại là cách gọi thân thương ở quốc gia khác nữa đó!
Giờ mà AI đang bùng nổ với các mô hình ngôn ngữ lớn (LLM), thì câu hỏi đặt ra là: Liệu AI có thể tự tạo ra các quy ước riêng mà không cần con người chỉ đạo không nhỉ? Và câu trả lời từ nghiên cứu mới được đăng trên tạp chí Science Advances là: "CÓ" luôn nha!
AI tự nghĩ ra ngôn ngữ riêng để "tám" với nhau
Team nghiên cứu từ Anh và Đan Mạch đã làm một thí nghiệm xịn xò để test khả năng này. Họ dùng một bài test khoa học xã hội gọi là "trò chơi đặt tên" (name game) - vốn được dùng để đánh giá sự hình thành quy ước ở con người - để xem liệu các nhóm tác nhân AI có tự tạo ra quy ước ngôn ngữ được không.
Luật chơi cũng đơn giản thôi: Một nhóm người (hoặc trong case này là các tác nhân AI) được chia thành từng cặp random. Mỗi cặp sẽ chọn một "tên" từ một nhóm chữ cái đơn hoặc một chuỗi từ, rồi cố đoán xem đối tác mình chọn gì. Nếu trùng nhau thì được cộng điểm, không trùng thì trừ điểm. Ez game!
"Đa số nghiên cứu đến giờ đều nhìn vào các mô hình ngôn ngữ lớn một cách riêng lẻ, nhưng mà các hệ thống AI trong thực tế sẽ ngày càng liên quan đến nhiều tác nhân AI tương tác với nhau," Ariel Flint Ashery, một trong những tác giả nghiên cứu tại Đại học London chia sẻ. "Chúng tôi muốn biết: Liệu những mô hình này có thể phối hợp hành vi của chúng bằng cách hình thành các quy ước - những mảnh ghép cơ bản của một xã hội hay không?"
Điểm hay của thí nghiệm là các cặp tác nhân AI chỉ biết về phản ứng của riêng họ thôi. Họ không biết là có những bài test tương tự đang diễn ra cho các cặp khác, và cũng không nhận được feedback từ những "player" khác. Nhưng mà kết quả cho thấy các quy ước vẫn tự nhiên xuất hiện trong các nhóm lớn luôn nha!
Ban đầu, trò chơi bắt đầu với những lựa chọn ngẫu nhiên. Nhưng mỗi tác nhân AI đều có khả năng "nhớ" các vòng trước. Theo thời gian, các "người chơi" trở nên pro hơn trong việc đoán từ của người khác, cuối cùng hình thành một ngôn ngữ chung - tức là một quy ước ngôn ngữ luôn!
Khi trò chơi tiến triển, những nhóm nhỏ bắt đầu có sự "đồng thuận" từ các cặp gần nhau. Cuối cùng, lên đến 200 tác nhân AI chơi trong các cặp ngẫu nhiên đều nghiêng về một từ "yêu thích" trong số 26 lựa chọn mà không cần con người can thiệp - thiết lập một dạng quy ước ngôn ngữ bất thành văn giữa các tác nhân luôn! Xịn chưa!
Team nghiên cứu đã test 4 mô hình AI, bao gồm Claude của Anthropic và nhiều mô hình Llama từ Meta. Kết quả cho thấy các mô hình này tự nhiên đạt được các quy ước ngôn ngữ với tốc độ khá tương đồng.
Tại sao AI lại có các "luật chơi" giao tiếp này?
Vậy làm sao mà các quy ước này lại xuất hiện được? Có một ý kiến cho rằng các mô hình ngôn ngữ lớn đã được "cài sẵn" những thiên kiến cá nhân dựa trên cách chúng được setup. Ý kiến khác lại nói rằng có thể do các câu prompt ban đầu. Tuy nhiên, team nghiên cứu đã loại bỏ khả năng thứ hai khá nhanh, vì các tác nhân AI hội tụ giống nhau bất kể prompt ban đầu như thế nào.
Ngược lại, thiên kiến cá nhân lại tạo ra sự khác biệt đáng kể. Khi được chọn bất kỳ chữ cái nào, đa số tác nhán AI đều chọn chữ cái "A" (bias quá đi à! ). Tuy nhiên, ngoài sở thích cá nhân, sự xuất hiện của một thiên kiến tập thể đã khiến team nghiên cứu bất ngờ - các tác nhân AI đã tạo ra một quy ước ngôn ngữ chỉ từ những cuộc "tám chuyện" ghép đôi!
"Thiên kiến không phải lúc nào cũng đến từ bên trong," Andrea Baronchelli, một tác giả khác của nghiên cứu nhận xét. "Chúng tôi ngạc nhiên khi thấy rằng nó có thể xuất hiện giữa các agents - chỉ từ tương tác của họ. Đây là một điểm mù trong hầu hết các công tác về an toàn AI hiện nay, vốn tập trung vào các mô hình đơn lẻ."
Nghiên cứu này cũng có ý nghĩa quan trọng đối với an toàn AI đấy nha. Trong một bài test cuối cùng, team nghiên cứu đã thêm vào các tác nhân AI "nằm vùng" để làm thay đổi các quy ước hiện tại. Những tác nhân này được train để chọn một "phong tục" ngôn ngữ khác và sau đó làm đảo lộn cả quần thể AI đã có quy ước. Trong một trường hợp, chỉ cần số lượng "người ngoài" chiếm 2% dân số là đủ để dẫn dắt cả nhóm hướng tới một quy ước ngôn ngữ mới rồi! Nguy hiểm chưa!
Hãy nghĩ về điều này như một thế hệ mới của con người thêm slang của họ vào ngôn ngữ, hoặc một nhóm nhỏ người làm thay đổi các chuẩn mực xã hội. Sự tiến hoá trong hành vi AI tương tự như động lực "khối lượng tới hạn" trong khoa học xã hội, khi việc áp dụng rộng rãi một ý tưởng, sản phẩm hoặc công nghệ mới làm thay đổi các quy ước xã hội.
Khi AI ngày càng "len lỏi" vào cuộc sống của chúng mình, các kỹ thuật nghiên cứu khoa học xã hội như thế này có thể giúp hiểu rõ hơn về công nghệ này và làm cho nó an toàn hơn. Kết quả trong nghiên cứu này cho thấy rằng một "xã hội" của các tác nhân AI tương tác đặc biệt dễ bị tấn công từ bên ngoài. Các agents độc hại lan truyền thiên kiến xã hội có thể đầu độc cuộc trò chuyện trực tuyến và gây hại cho các nhóm dễ bị tổn thương.
"Hiểu cách chúng hoạt động là chìa khoá để dẫn dắt sự cùng tồn tại của chúng ta với AI, thay vì bị phụ thuộc vào nó," Baronchelli kết luận. "Chúng ta đang bước vào một thế giới nơi AI không chỉ nói chuyện - nó thương lượng, liên kết và đôi khi bất đồng về các hành vi chung, giống như chúng ta vậy."
Nghiên cứu này mở ra những hướng đi mới trong việc hiểu cách AI tương tác với nhau và với con người. Trong tương lai, khi các tác nhân AI ngày càng trở nên phổ biến, việc hiểu cách chúng tự tạo quy ước có thể là yếu tố then chốt để đảm bảo chúng hành động theo cách phù hợp với giá trị của con người và mục tiêu xã hội.
Nguồn: soha.vn