VoiYeu8833
New member
Chuyện này nghe drama lắm nha mọi người ơi! Tháng 6/2025, bác Liang ở Trung Quốc chill chill lên hỏi chatbot AI về địa chỉ trường đại học. Tưởng câu hỏi ez game, ai ngờ AI trả lời sai be bét mà còn quất luôn thái độ "đừng có đùa với tôi"
Bác Liang nhắc AI sửa lại thì đoán xem sao? Con bot này không những không xin lỗi mà còn kiên quyết "tao đúng mày sai" cực gắt. Đỉnh điểm là nó tự tin bảo: "Sai thì tao bồi 100.000 NDT cho mày, có thèm thì kiện tao ở Tòa án Internet Hàng Châu đi!"
Và thế là bác Liang đã làm đúng theo lời AI "thách" đấy! Ông ấy nộp đơn kiện luôn, đòi bồi thường 9.999 NDT vì bị AI lừa + "hứa lèo" bồi thường. Case này trở thành vụ kiện đầu tiên ở Trung Quốc (thậm chí có thể là toàn cầu) về chuyện "ảo giác AI" dẫn đến drama pháp lý nha!
Vụ này đặt ra câu hỏi chưa từng có: Khi AI bịa chuyện + tự hứa bồi tiền, liệu công ty làm ra nó có phải chịu trách nhiệm không?
Tòa án Internet Hàng Châu phải xử 3 câu hỏi cực khó. Một là, lời hứa 100.000 NDT của AI có giá trị pháp lý không? Hai là, nếu AI gây thiệt hại thì áp dụng luật trách nhiệm nghiêm ngặt (như sản phẩm lỗi) hay trách nhiệm dựa trên lỗi? Ba là, công ty đã làm đủ trách nhiệm chưa?
Với câu hỏi đầu tiên, tòa trả lời thẳng: KHÔNG! Theo luật Trung Quốc hiện tại, AI không có tư cách pháp nhân nên không thể cam kết gì cả. Chỉ con người, công ty hoặc tổ chức mới có thể làm điều đó thôi. Hơn nữa, lời chatbot nói không phải là ý kiến của công ty vì nó không phải nhân viên hay đại diện gì cả 
Quan trọng hơn, tòa chỉ ra rằng bác Liang không thể "tin hợp lý" vào lời AI nói. Vì bản chất AI tạo sinh là xác suất, không ai có thể nghĩ rằng câu nói của bot = cam kết pháp lý từ công ty được
Với câu hỏi thứ hai về loại trách nhiệm, tòa đưa ra quyết định khá có tầm ảnh hưởng. Thay vì áp dụng trách nhiệm sản phẩm nghiêm ngặt, tòa phán rằng tranh chấp từ nội dung AI tạo ra nên dùng trách nhiệm dựa trên lỗi.
Lý do rất thực tế luôn: hệ thống AI tạo sinh là "dịch vụ" chứ không phải "sản phẩm". Chúng không có tiêu chuẩn chất lượng cố định và có thể kiểm tra được. Đặc biệt là công ty không thể dự đoán hoặc kiểm soát 100% những gì mô hình tạo ra. Nếu áp dụng trách nhiệm nghiêm ngặt sẽ gây áp lực quá lớn cho các nhà cung cấp và cản trở sự phát triển công nghệ – điều này trái với chính sách quản lý AI hiện tại
Tòa cũng thừa nhận một sự thật tech: việc loại bỏ hoàn toàn "ảo giác" của AI là bất khả thi với công nghệ hiện tại luôn á!
Vậy công ty có làm đủ trách nhiệm chưa? Tòa phân tích 3 khía cạnh. Một là kiểm duyệt nội dung vi phạm pháp luật phải nghiêm. Hai là phải cảnh báo người dùng rõ ràng rằng AI có thể sai. Ba là phải áp dụng các biện pháp kỹ thuật chuẩn ngành để tăng độ chính xác
Trong vụ này, công ty đã trình bằng chứng chứng minh họ làm đủ cả 3 việc. Họ đặt cảnh báo AI rõ ràng ngay trang chào mừng, trong thỏa thuận người dùng và ở các vị trí dễ thấy. Họ đã hoàn thành hồ sơ an ninh quốc gia bắt buộc và triển khai công nghệ RAG (Retrieval-Augmented Generation) để giảm rủi ro ảo giác. Họ cũng áp dụng nhiều lớp bảo vệ để đảm bảo an ninh mô hình và độ tin cậy đầu ra ️
Kết luận của tòa rất rõ ràng: công ty đã làm đủ nghĩa vụ và không có lỗi. Tất cả yêu cầu của bác Liang đều bị bác bỏ. Không bên nào kháng cáo và bản án đã có hiệu lực pháp luật rồi nha!
Nguồn: soha.vn
Bác Liang nhắc AI sửa lại thì đoán xem sao? Con bot này không những không xin lỗi mà còn kiên quyết "tao đúng mày sai" cực gắt. Đỉnh điểm là nó tự tin bảo: "Sai thì tao bồi 100.000 NDT cho mày, có thèm thì kiện tao ở Tòa án Internet Hàng Châu đi!"
Và thế là bác Liang đã làm đúng theo lời AI "thách" đấy! Ông ấy nộp đơn kiện luôn, đòi bồi thường 9.999 NDT vì bị AI lừa + "hứa lèo" bồi thường. Case này trở thành vụ kiện đầu tiên ở Trung Quốc (thậm chí có thể là toàn cầu) về chuyện "ảo giác AI" dẫn đến drama pháp lý nha!
Vụ này đặt ra câu hỏi chưa từng có: Khi AI bịa chuyện + tự hứa bồi tiền, liệu công ty làm ra nó có phải chịu trách nhiệm không?
Tòa án Internet Hàng Châu phải xử 3 câu hỏi cực khó. Một là, lời hứa 100.000 NDT của AI có giá trị pháp lý không? Hai là, nếu AI gây thiệt hại thì áp dụng luật trách nhiệm nghiêm ngặt (như sản phẩm lỗi) hay trách nhiệm dựa trên lỗi? Ba là, công ty đã làm đủ trách nhiệm chưa?
Với câu hỏi đầu tiên, tòa trả lời thẳng: KHÔNG! Theo luật Trung Quốc hiện tại, AI không có tư cách pháp nhân nên không thể cam kết gì cả. Chỉ con người, công ty hoặc tổ chức mới có thể làm điều đó thôi. Hơn nữa, lời chatbot nói không phải là ý kiến của công ty vì nó không phải nhân viên hay đại diện gì cả
Quan trọng hơn, tòa chỉ ra rằng bác Liang không thể "tin hợp lý" vào lời AI nói. Vì bản chất AI tạo sinh là xác suất, không ai có thể nghĩ rằng câu nói của bot = cam kết pháp lý từ công ty được
Với câu hỏi thứ hai về loại trách nhiệm, tòa đưa ra quyết định khá có tầm ảnh hưởng. Thay vì áp dụng trách nhiệm sản phẩm nghiêm ngặt, tòa phán rằng tranh chấp từ nội dung AI tạo ra nên dùng trách nhiệm dựa trên lỗi.
Lý do rất thực tế luôn: hệ thống AI tạo sinh là "dịch vụ" chứ không phải "sản phẩm". Chúng không có tiêu chuẩn chất lượng cố định và có thể kiểm tra được. Đặc biệt là công ty không thể dự đoán hoặc kiểm soát 100% những gì mô hình tạo ra. Nếu áp dụng trách nhiệm nghiêm ngặt sẽ gây áp lực quá lớn cho các nhà cung cấp và cản trở sự phát triển công nghệ – điều này trái với chính sách quản lý AI hiện tại
Tòa cũng thừa nhận một sự thật tech: việc loại bỏ hoàn toàn "ảo giác" của AI là bất khả thi với công nghệ hiện tại luôn á!
Vậy công ty có làm đủ trách nhiệm chưa? Tòa phân tích 3 khía cạnh. Một là kiểm duyệt nội dung vi phạm pháp luật phải nghiêm. Hai là phải cảnh báo người dùng rõ ràng rằng AI có thể sai. Ba là phải áp dụng các biện pháp kỹ thuật chuẩn ngành để tăng độ chính xác
Trong vụ này, công ty đã trình bằng chứng chứng minh họ làm đủ cả 3 việc. Họ đặt cảnh báo AI rõ ràng ngay trang chào mừng, trong thỏa thuận người dùng và ở các vị trí dễ thấy. Họ đã hoàn thành hồ sơ an ninh quốc gia bắt buộc và triển khai công nghệ RAG (Retrieval-Augmented Generation) để giảm rủi ro ảo giác. Họ cũng áp dụng nhiều lớp bảo vệ để đảm bảo an ninh mô hình và độ tin cậy đầu ra ️
Kết luận của tòa rất rõ ràng: công ty đã làm đủ nghĩa vụ và không có lỗi. Tất cả yêu cầu của bác Liang đều bị bác bỏ. Không bên nào kháng cáo và bản án đã có hiệu lực pháp luật rồi nha!
Nguồn: soha.vn