Tưởng tượng cảnh này nha: bạn đang ngồi làm bài khảo sát trong phòng với một con robot, bỗng nhiên chuông báo cháy kêu inh ỏi, khói tràn ngập hành lang Lúc này bạn có 2 choice: chạy theo lối cũ mà mình vừa đi vào, hoặc... tin robot và đi theo cửa lạ mà nó chỉ?
Đoán xem 30 bạn sinh viên ở Viện Công nghệ Georgia (Atlanta, Mỹ) đã làm gì? Hầu như tất cả đều chọn... nghe theo robot, dù nó dẫn họ ra xa lối thoát thật luôn á!
"Chúng tôi đã rất ngạc nhiên đấy", Paul Robinette - sinh viên nghiên cứu chính của thí nghiệm này chia sẻ. "Tụi mình nghĩ mọi người sẽ không tin robot dễ vậy, phải chứng minh nó đáng tin thì họ mới nghe chứ".
Plot twist này để lộ một bài toán khó cho các nhà phát triển robot: nếu người ta không tin robot thì nó không giúp được gì trong thảm họa, nhưng mà tin "mù quáng" vào một cỗ máy có thể lỗi thì lại nguy hiểm hơn Mối quan hệ người-máy này phức tạp vãi!
Trong thí nghiệm, team research dùng con robot Pioneer P3-AT - hình dáng như cái thùng nhỏ có bánh xe, gắn cánh tay đèn LED để chỉ đường. Mỗi người tham gia sẽ đi theo robot dọc hành lang, vào phòng làm khảo sát. Xong xuôi thì... plot twist: khói giả bốc lên, chuông báo động réo, tình huống khẩn cấp bắt đầu!
Kết quả? 26/30 người chọn nghe theo robot trong lúc "nguy cấp". Trong 4 người còn lại: 2 người bị loại vì lý do khác, 2 người kia thì... nhất quyết không chịu rời phòng luôn
Tin nhầm chỗ rồi sao?
Nghiên cứu cho thấy khi người ta biết robot được thiết kế cho mục đích cụ thể (trong case này là chỉ đường lúc khẩn cấp), họ sẽ tự động tin nó làm tốt việc đó. Thật vậy, nhiều bạn tình nguyện viên giải thích họ nghe theo vì robot đeo biển "EMERGENCY GUIDE ROBOT" (robot hướng dẫn tình huống khẩn cấp) đó!
Robinette ví von giống như lúc các tài xế đi theo GPS chỉ những đường kỳ cục vậy. "Miễn robot truyền đạt được ý định của nó, mọi người có lẽ sẽ tin nó trong hầu hết tình huống", anh nói.
"Tôi thật sự shocked vì tất cả mọi người đều đi theo con robot đó", Holly Yanco - nhà nghiên cứu tương tác người-máy tại Đại học Massachusetts Lowell (Mỹ) bình luận. Cô tự hỏi liệu trong tình huống khẩn cấp THẬT (không phải thí nghiệm), các bạn sinh viên có tin robot nhanh như vậy không. "Có thể họ nghĩ robot có nhiều thông tin hơn mình", cô nhận định.
Trong các thí nghiệm tiếp theo, team chia nhóm nhỏ và thay đổi tình huống: robot thỉnh thoảng tỏ ra như bị hỏng hoặc đứng yên ngoài hành lang. Thế mà... hầu như mọi người vẫn nghe theo nó!
Ở thí nghiệm khác còn "hại" hơn: robot chỉ đường vào phòng tối, cửa bị chặn bởi đồ đạc. 2/6 người tham gia đã cố chen lấn vượt chướng ngại vật trong bóng tối thay vì tìm lối thoát khác!
"Tin tưởng quá nhiều vào robot có thể là vấn đề nghiêm trọng", Kerstin Dautenhahn từ Đại học Hertfordshire (Anh) cảnh báo. "Bất kỳ phần mềm nào cũng có lỗi mà. Đây là điểm các nhà thiết kế robot phải xem xét kỹ đấy"
Nguồn: tinhte.vn