TraTutu8808
New member
Ơ kìa, hóa ra hình ảnh khuôn mặt của chúng mình đang bị "hốt" về xài tùm lum mà không ai hỏi ý kiến gì cả đó các bạn ơi! Mục đích? Để phát triển công nghệ nhận diện khuôn mặt - thứ mà sau này có thể quay lại... giám sát chính chúng ta luôn
Hệ thống nhận diện khuôn mặt giờ đây giúp bạn mở khóa iPhone, bắt tội phạm, hay nhận diện khách quen trong shop. Nó hoạt động nhờ thuật toán AI có khả năng nhận ra khuôn mặt và hàng trăm đặc điểm khác nhau. Tuy chưa perfect 100% nhưng mà đang ngày càng "xịn" hơn nha!
Để làm được chuyện này, các thuật toán cần "ăn" hàng trăm ngàn tấm ảnh có đủ các loại khuôn mặt khác nhau. Và guess what? Nguồn ảnh chính là từ Internet đó - càng ngày càng nhiều ảnh bị "hốt" về.
Hàng triệu người đang có ảnh bị sử dụng mà chủ nhân của chúng chẳng biết gì hết trơn. Những tấm ảnh này còn bị phân loại theo tuổi, giới tính, màu da và đủ thứ đặc điểm khác, rồi được share lung tung cho các nhà nghiên cứu ở trường và công ty nữa
Các thuật toán giờ càng ngày càng "thông minh", có thể phân biệt giới tính và màu da - chuyện mà trước kia làm không nổi. Điều này đã khiến các chuyên gia pháp luật và người ủng hộ quyền công dân phải lên tiếng cảnh báo về việc các nhà nghiên cứu "múc" ảnh người ta.
Mặt người ta đang bị xài lung tung mà không xin phép, để phục vụ công nghệ mà sau này có thể quay lại giám sát chính họ đó!
"Đây là một bí mật đáng sợ của bộ huấn luyện trí thông minh nhân tạo (AI). Các nhà nghiên cứu thường lấy bất cứ hình ảnh nào đó một cách bừa bãi," Jason Schultz - giáo sư trường Luật thuộc Đại học New York cho biết.
Công ty mới nhất nhảy vào cuộc chơi này chính là gã khổng lồ IBM. Tháng 1 vừa rồi, công ty tung ra bộ sưu tập với gần một triệu tấm hình "hốt" từ Flickr và mã hóa để mô tả vẻ bề ngoài của người trong ảnh.
IBM giới thiệu bộ sưu tập này như một bước tiến "bá đạo" để giảm thiên kiến trong nhận diện khuôn mặt.
Nhưng plot twist đây! Các nhiếp ảnh gia có ảnh nằm trong bộ dữ liệu của IBM đã shocked và bối rối vô cùng khi NBC News báo tin rằng ảnh của họ đã được gán nhãn chi tiết về đường nét khuôn mặt, màu da, và có thể bị dùng để phát triển thuật toán nhận diện khuôn mặt.
(NBC News phải thu thập bộ dữ liệu của IBM từ nguồn khác sau khi công ty từ chối chia sẻ, với lý do là những hình ảnh này chỉ dành cho nhóm nghiên cứu học thuật hoặc nội bộ công ty.)
"Không một ai được tôi chụp hình biết rằng ảnh của họ đã bị sử dụng như thế này," Greg Peverill-Conti - điều phối viên PR tại Boston với hơn 700 tấm hình trong bộ sưu tập của IBM - cho biết. "Thế này thì hơi thiếu trung thực. IBM đã xài những hình ảnh đó mà không nói gì với ai cả," ông nói thêm.
John Smith - người giám sát nghiên cứu AI tại IBM - cho biết công ty đã cam kết "bảo vệ quyền riêng tư của cá nhân" và "sẽ làm việc với người có yêu cầu xóa URL ra khỏi bộ dữ liệu."
Dù IBM đã hứa rằng người dùng Flickr có thể chọn không tham gia vào database này, NBC News phát hiện ra rằng việc xóa ảnh gần như... bất khả thi
Không những thế, IBM còn không công bố danh sách người dùng Flickr và ảnh trong bộ dữ liệu, nên việc tìm ra ảnh của ai bị "dính" là cực kỳ khó khăn.
IBM cũng im hơi lặng tiếng về vấn đề này luôn.
IBM nói rằng bộ dữ liệu của họ được thiết kế để giúp các nhà nghiên cứu học thuật làm công nghệ nhận diện khuôn mặt công bằng hơn. Nhưng đây không phải là công ty duy nhất làm thế này đâu nha!
Hàng tá tổ chức nghiên cứu khác cũng đã "hốt" ảnh để train hệ thống nhận diện khuôn mặt, và phần lớn các bộ sưu tập đều được cào từ trên mạng về.
Một số chuyên gia và nhà hoạt động xã hội tranh luận rằng việc này không chỉ xâm phạm quyền riêng tư của hàng triệu người có ảnh bị "hốt" - mà còn dấy lên vấn đề đáng lo ngại về việc hoàn thiện công nghệ nhận diện khuôn mặt. Lo lắng về việc các cơ quan chấp pháp sẽ dùng công nghệ này để nhắm vào những cộng đồng thiểu số đó!
"Đây thực sự là một tình huống tiến thoái lưỡng nan," Woody Hartzog - giáo sư luật và khoa học vi tính tại Đại học Northeastern - cho biết. "Nhận diện khuôn mặt có thể trở nên nguy hại vô cùng nếu nó không chính xác, và tạo áp lực lớn nếu nó ngày càng chính xác."
Bên cạnh những lợi ích của công nghệ nhận diện khuôn mặt, nó cũng có thể bị sử dụng để giám sát và nhắm vào người da màu và cộng đồng thiểu số.
Các nhóm bảo vệ quyền công dân cho hay rằng database nhận diện khuôn mặt phần lớn bao gồm người Mỹ gốc Phi, người Mỹ Latin và dân nhập cư, vì những cộng đồng này là đối tượng mà cảnh sát có định kiến thường nhắm vào.
Việc các cơ quan chấp pháp dùng hệ thống giám sát dựa trên công nghệ nhận diện khuôn mặt gây tranh cãi đến mức 85 nhóm bảo vệ quyền công dân và công bằng chủng tộc đã liên kết với nhau, kêu gọi các công ty công nghệ từ chối bán hệ thống này cho chính phủ.
Họ tranh luận rằng công nghệ này khiến thành kiến đã tồn tại từ lâu ngày càng nặng nề hơn, gây tổn hại đến những cộng đồng vốn đã chịu quá nhiều sự áp chế và giám sát rồi.
"Người ta cho phép hình ảnh của mình được chia sẻ ở nhiều trang mạng," Meredith Whittaker - đồng giám đốc thuộc Viện AI Now, nghiên cứu về ứng dụng xã hội của AI - cho biết. "Bây giờ, họ không sẵn sàng hoặc không hay biết rằng hình ảnh đó xuất hiện trong những hệ thống mà sau này có thể gây áp lực lên chính cộng đồng của họ."
Nguồn: soha.vn