Tưởng đâu AI sẽ giúp các anh cảnh sát Mỹ nhẹ công việc giấy tờ, ai ngờ lại thành thảm họa comedy cực mạnh
Chuyện là ở Sở cảnh sát thành phố Heber, Utah, một hệ thống AI được thiết kế để viết báo cáo tự động đã "chế" ra một bản báo cáo... siêu thực. Một cuộc kiểm tra giao thông bình thường bỗng biến thành câu chuyện cổ tích kiểu Disney, tùy bạn nhìn theo kiểu nào luôn
Trung sĩ Rick Keel của Sở cảnh sát Heber City cho biết, AI đã "lú" khi lấy nhầm thoại từ phim hoạt hình "The Princess and the Frog" của Disney cho vào báo cáo cảnh sát. Lý do? Vì lúc camera đeo thân của sĩ quan đang quay thì phim đang phát trong nền đó "Đó là lúc chúng tôi học được tầm quan trọng của việc hiệu chỉnh các báo cáo do AI tạo ra," ông Keel nói với Fox13 Salt Lake City.
Phản ứng "nhẹ tênh" của trung sĩ Keel khiến giới chuyên gia công nghệ phát ngán luôn. Họ chỉ ra rằng các hệ thống AI kiểu này vốn nổi tiếng là hay "ngáo" và liên tục đưa ra thông tin sai lệch. Việc mãi đến khi có vụ "biến thành ếch" mới nhận ra vấn đề cho thấy sự thiếu cảnh giác trầm trọng đó. Nhiều người lo ngại Sở cảnh sát cần kiểm tra lại hết các báo cáo trước đây xem AI đã "chế" thêm gì nữa không
Sở cảnh sát Heber City đang thử nghiệm hai công cụ AI để tự động viết báo cáo từ video camera đeo thân. Phần mềm Draft One do công ty Axon phát triển chính là thủ phạm tạo ra "diễn giải ếch" bá đạo này. Cái tên Axon này nghe quen quen không? Đúng rồi, chính hãng sản xuất súng điện Taser nổi tiếng đó
Draft One dùng các mô hình ngôn ngữ lớn GPT của OpenAI để tạo toàn bộ báo cáo từ âm thanh camera đeo thân. Hệ thống thứ hai là Code Four, được làm bởi hai bạn sinh viên bỏ học MIT 19 tuổi (sao toàn thiên tài bỏ học vậy ta ). Lời quảng cáo của cả hai nghe hấp dẫn vl: ít đánh máy, nhiều thời gian tuần tra hơn.
Nhưng thực tế thì... không mấy ảo diệu. Ngay cả trong buổi demo được dàn dựng kỹ lưỡng, AI vẫn tạo ra báo cáo đầy lỗi cần sửa tay cực nhiều. Hiện tại nó trông giống trợ lý hơn là công cụ thay thế hoàn toàn.
Mặc dù trung sĩ Keel khẳng định công cụ đang tiết kiệm cho ông "sáu đến tám giờ mỗi tuần" và "rất thân thiện với người dùng" dù ông "không phải dân tech", nhưng những sai sót nghiêm trọng như vụ "ếch" này đặt ra câu hỏi: liệu có đáng để đánh đổi không?
Các chuyên gia đã nhanh chóng raise hand cảnh báo. Giáo sư luật Andrew Ferguson của Đại học American lo ngại rằng "sự tự động hóa và tính dễ dàng của công nghệ sẽ khiến các sĩ quan cảnh sát trở nên ít cẩn thận hơn với văn bản của họ". Nguy hiểm vì báo cáo cảnh sát có thể quyết định vận mệnh của người bị điều tra đó nha!
Mối lo lớn hơn là khả năng phần mềm củng cố các thiên kiến về chủng tộc và giới tính đã tồn tại sẵn trong thực thi pháp luật. Các công cụ AI tạo sinh đã được chứng minh là duy trì thiên kiến chống lại phụ nữ và người không da trắng. Aurelius Francisco, đồng sáng lập Foundation for Liberating Minds, cho rằng "việc công nghệ được sử dụng bởi cùng công ty cung cấp súng điện Taser cho cảnh sát đã đủ đáng báo động".
Theo điều tra của Electronic Frontier Foundation, Draft One "dường như được thiết kế có chủ đích để tránh kiểm toán có thể cung cấp bất kỳ trách nhiệm giải trình nào với công chúng". Hồ sơ cho thấy "thường không thể phân biệt phần nào của báo cáo cảnh sát được tạo bởi AI và phần nào được viết bởi sĩ quan". Điều này có thể bị lợi dụng để giảm trách nhiệm của cảnh sát khi có sai sót xảy ra - nguy hiểm thật đó!
Nguồn: genk.vn
Chuyện là ở Sở cảnh sát thành phố Heber, Utah, một hệ thống AI được thiết kế để viết báo cáo tự động đã "chế" ra một bản báo cáo... siêu thực. Một cuộc kiểm tra giao thông bình thường bỗng biến thành câu chuyện cổ tích kiểu Disney, tùy bạn nhìn theo kiểu nào luôn
Trung sĩ Rick Keel của Sở cảnh sát Heber City cho biết, AI đã "lú" khi lấy nhầm thoại từ phim hoạt hình "The Princess and the Frog" của Disney cho vào báo cáo cảnh sát. Lý do? Vì lúc camera đeo thân của sĩ quan đang quay thì phim đang phát trong nền đó "Đó là lúc chúng tôi học được tầm quan trọng của việc hiệu chỉnh các báo cáo do AI tạo ra," ông Keel nói với Fox13 Salt Lake City.
Phản ứng "nhẹ tênh" của trung sĩ Keel khiến giới chuyên gia công nghệ phát ngán luôn. Họ chỉ ra rằng các hệ thống AI kiểu này vốn nổi tiếng là hay "ngáo" và liên tục đưa ra thông tin sai lệch. Việc mãi đến khi có vụ "biến thành ếch" mới nhận ra vấn đề cho thấy sự thiếu cảnh giác trầm trọng đó. Nhiều người lo ngại Sở cảnh sát cần kiểm tra lại hết các báo cáo trước đây xem AI đã "chế" thêm gì nữa không
Sở cảnh sát Heber City đang thử nghiệm hai công cụ AI để tự động viết báo cáo từ video camera đeo thân. Phần mềm Draft One do công ty Axon phát triển chính là thủ phạm tạo ra "diễn giải ếch" bá đạo này. Cái tên Axon này nghe quen quen không? Đúng rồi, chính hãng sản xuất súng điện Taser nổi tiếng đó
Draft One dùng các mô hình ngôn ngữ lớn GPT của OpenAI để tạo toàn bộ báo cáo từ âm thanh camera đeo thân. Hệ thống thứ hai là Code Four, được làm bởi hai bạn sinh viên bỏ học MIT 19 tuổi (sao toàn thiên tài bỏ học vậy ta ). Lời quảng cáo của cả hai nghe hấp dẫn vl: ít đánh máy, nhiều thời gian tuần tra hơn.
Nhưng thực tế thì... không mấy ảo diệu. Ngay cả trong buổi demo được dàn dựng kỹ lưỡng, AI vẫn tạo ra báo cáo đầy lỗi cần sửa tay cực nhiều. Hiện tại nó trông giống trợ lý hơn là công cụ thay thế hoàn toàn.
Mặc dù trung sĩ Keel khẳng định công cụ đang tiết kiệm cho ông "sáu đến tám giờ mỗi tuần" và "rất thân thiện với người dùng" dù ông "không phải dân tech", nhưng những sai sót nghiêm trọng như vụ "ếch" này đặt ra câu hỏi: liệu có đáng để đánh đổi không?
Các chuyên gia đã nhanh chóng raise hand cảnh báo. Giáo sư luật Andrew Ferguson của Đại học American lo ngại rằng "sự tự động hóa và tính dễ dàng của công nghệ sẽ khiến các sĩ quan cảnh sát trở nên ít cẩn thận hơn với văn bản của họ". Nguy hiểm vì báo cáo cảnh sát có thể quyết định vận mệnh của người bị điều tra đó nha!
Mối lo lớn hơn là khả năng phần mềm củng cố các thiên kiến về chủng tộc và giới tính đã tồn tại sẵn trong thực thi pháp luật. Các công cụ AI tạo sinh đã được chứng minh là duy trì thiên kiến chống lại phụ nữ và người không da trắng. Aurelius Francisco, đồng sáng lập Foundation for Liberating Minds, cho rằng "việc công nghệ được sử dụng bởi cùng công ty cung cấp súng điện Taser cho cảnh sát đã đủ đáng báo động".
Theo điều tra của Electronic Frontier Foundation, Draft One "dường như được thiết kế có chủ đích để tránh kiểm toán có thể cung cấp bất kỳ trách nhiệm giải trình nào với công chúng". Hồ sơ cho thấy "thường không thể phân biệt phần nào của báo cáo cảnh sát được tạo bởi AI và phần nào được viết bởi sĩ quan". Điều này có thể bị lợi dụng để giảm trách nhiệm của cảnh sát khi có sai sót xảy ra - nguy hiểm thật đó!
Nguồn: genk.vn