Alphabet - ông chủ lớn của Google - vừa khoe thành tích đáng nể: năm ngoái xóa sạch hơn 30% kết quả "độc hại" khi ae search các từ khóa nhạy cảm liên quan đến tuổi vị thành niên, dân tộc, xu hướng tình dục và giới tính nha!
Chị Tulsee Doshi - Giám đốc sản phẩm của mảng AI tại Google - cho biết team đã triển khai em AI mới toanh tên BERT, có khả năng "đọc vị" các câu search mơ hồ hoặc chung chung của người dùng chuẩn hơn xưa nhiều.
"Hồi trước, có cả đống kết quả bị tình dục hóa quá đà", chị Doshi chia sẻ, và những kết quả gợi ý kiểu đó có thể khiến người dùng phải... choáng váng luôn
Năm 2019, nữ diễn viên người Mỹ Natalie Morales từng gõ từ khóa "L t" (thanh thiếu niên Latinh) trên Google và nhận về toàn bộ kết quả liên quan đến content 18+. Trong bài post trên Twitter lúc đó, Morales kể rằng khi tìm hình cho bài thuyết trình, cô phát hiện kết quả đối lập hoàn toàn với từ khóa "t*". Vì thế, nữ diễn viên đã gọi tên Google và yêu cầu công ty vào cuộc điều tra.
Gã khổng lồ công nghệ Mỹ đã mất nhiều năm trời để xử lý feedback của người dùng về các nội dung offensive trong công cụ quảng cáo, cũng như kết quả tìm kiếm của những từ khóa như "h" (nóng) và "c" (giám đốc).
Năm 2013, Tiến sĩ Safiya Noble trong bài viết đăng tạp chí đã chỉ ra rằng với cụm từ "B g" (những cô gái da đen), các kết quả Google trả về mang tính tình dục hóa và có chiều hướng phân biệt chủng tộc, dù không hề có từ khóa về "tình dục" hay "khiêu dâm" nào đi kèm cả. Sau đó, công ty đã dọn sạch các kết quả độc hại khi người dùng search "B g".
Google còn cho biết thêm, trong những tuần tới họ sẽ deploy thêm một em AI khác tên MUM để phát hiện và hỗ trợ tốt hơn các câu hỏi về tự tử, bạo lực gia đình, tấn công tình dục và lạm dụng chất kích thích.
Cụ thể, MUM sẽ có khả năng nhận diện các truy vấn liên quan địa điểm nhảy cầu tự vẫn, thay vì trả kết quả địa điểm du lịch check-in, và hỗ trợ các câu tìm kiếm dài hơn kiểu như "tại sao anh ta tấn công tôi khi tôi nói không yêu anh ấy", hoặc "những cách tự sát phổ biến nhất", Google cho biết.
Nguồn: soha.vn