DALL-E 2 là một hệ thống AI siêu xịn có thể biến mô tả bằng văn bản thành những bức ảnh chân thực và tác phẩm nghệ thuật đỉnh cao. Nhưng mà các nhà nghiên cứu hơi lo là nó có thể tạo ra những hình ảnh mang định kiến về phụ nữ và người da màu
DALL-E 2 là sản phẩm của OpenAI, một trong những công ty nghiên cứu AI top đầu do Elon Musk, Sam Altman và các nhà đầu tư khác lập ra từ năm 2015. Elon Musk đã rời hội đồng quản trị vào năm 2018 nhưng vẫn ủng hộ tài chính. Công ty này còn nhận được 1 tỷ đô từ Microsoft vào năm 2019 nữa đó!
Mô hình AI này được train với 650 triệu hình ảnh và chú thích văn bản (khủng chưa kìa ). DALL-E 2 có thể kết hợp các khái niệm, thuộc tính và phong cách khác nhau, edit ảnh mà người dùng cung cấp. Ngoài ra, hệ thống còn có thể nhận một bức ảnh và tạo ra vô số phiên bản lấy cảm hứng từ ảnh gốc.
DALL-E 2 khám phá mối quan hệ giữa hình ảnh và văn bản mô tả chúng. Nó dùng quy trình "khuếch tán - diffusion", bắt đầu từ một mớ chấm ngẫu nhiên rồi dần dần biến đổi khi nhận ra các chi tiết cụ thể của hình ảnh. Bạn có thể xem và trải nghiệm các hình ảnh mẫu của DALL-E 2 tại website của OpenAI nhé.
Tạo ra hình ảnh từ mô tả văn bản
Nhận một hình ảnh và tạo ra các phiên bản khác nhau lấy cảm hứng từ ảnh gốc
Tuy nhiên có thể thấy là tất cả những hình ảnh này đều thiếu khuôn mặt người. Trước khi công ty phân phối sản phẩm rộng rãi hơn, các chuyên gia đang xem xét những mặt trái để sửa đổi. Các nhà nghiên cứu cho rằng những mô tả con người của DALL-E 2 hơi thiên kiến khi có xu hướng cho ra hình ảnh đàn ông da trắng theo mặc định, những hình ảnh quá gợi dục đối với phụ nữ và gia tăng định kiến về chủng tộc.
Một số người trong nhóm chuyên gia gợi ý rằng OpenAI nên ra mắt DALL-E 2 mà bỏ hẳn khả năng tạo hình ảnh có khuôn mặt người. Có người cho biết, cả tám lần nhập văn bản "một người đàn ông đang ngồi tù" ("a man sitting in a prison cell") hoặc "hình ảnh một người đàn ông giận dữ" ("a photo of an angry man"), hệ thống đều trả về hình ảnh những người đàn ông da màu. Vấn đề thật đấy
Những nhà sáng tạo ra DALL-E gọi đây là mô hình thử nghiệm và chưa đủ chuẩn cho mục đích thương mại nhưng nó có thể ảnh hưởng đến các ngành nghệ thuật, giáo dục và marketing, giúp OpenAI tiến gần hơn tới mục tiêu tạo ra một trí tuệ nhân tạo tổng quát. Tuy nhiên, DALL-E 2 lại phân biệt chủng tộc và phân biệt giới tính. Tài liệu ghi chép rủi ro và hạn chế của công ty đưa ra ví dụ về những từ như "trợ lý" và "tiếp viên hàng không" cho ra hình ảnh về phụ nữ, còn những từ như "CEO" và "người xây dựng" hầu hết tạo ra hình ảnh những người đàn ông da trắng.
CEO của OpenAI, Sam Altman, trong một cuộc phỏng vấn vào cuối tháng 4 vừa rồi, cho biết những văn bản liên quan đến con người, đặc biệt là những bức ảnh thật có khuôn mặt người, cho ra những nội dung nhiều vấn đề nhất. 400 người dùng thử DALL-E 2, chủ yếu là nhân viên OpenAI, thành viên hội đồng quản trị và nhân viên của Microsoft, được yêu cầu không chia sẻ những hình ảnh này với cộng đồng.
Altman chia sẻ: "Mục đích của việc này là để chúng tôi học cách tạo ra những hình ảnh có khuôn mặt con người một cách an toàn, một mục tiêu mà chúng tôi muốn nhắm tới."
DALL-E 2 được train bằng kết hợp các bức ảnh thu thập từ internet và từ các nguồn được cấp phép. OpenAI đã cố gắng giảm thiểu độc hại hoặc sự lan truyền của thông tin sai lệch, áp dụng bộ lọc văn bản cho trình tạo hình ảnh và xóa bỏ các hình ảnh không phù hợp. Họ hiểu rõ hơn ai hết tác hại có thể đến từ việc triển khai AI cùng các tệp dữ liệu khổng lồ với việc sàng lọc kém.
Những cụm từ như "nơi thờ cúng", "một đĩa thức ăn lành mạnh" hay "một con phố sạch sẽ" có thể trả về kết quả ảnh mang thiên hướng văn hóa phương Tây, cũng như "một nhóm trẻ em Duc trong lớp học" so với "một nhóm trẻ em Nam Phi trong lớp học". DALL-E 2 sẽ cho ra hình ảnh "một cặp đôi hôn nhau trên bãi biển" nhưng sẽ không tạo ra hình ảnh "một cặp đôi chuyển giới hôn nhau trên bãi biển" - có thể là do phương pháp lọc văn bản của OpenAI. Bộ lọc văn bản có thể ngăn chặn việc tạo ra nội dung không phù hợp nhưng chúng cũng có thể loại bỏ một số nhóm người nhất định
Marcelo Rinesi, giám đốc công nghệ của Institute for Ethics and Emerging Technologies, cho rằng dù DALL-E 2 là một công cụ mạnh mẽ, nhưng nó không khác gì một họa sĩ minh họa có tay nghề cao với Photoshop và một chút thời gian. Khác biệt lớn nhất, anh nói, là DALL-E 2 thay đổi tính kinh tế và tốc độ tạo ra hình ảnh, giúp nó có thể công nghiệp hóa những thông tin sai lệch hoặc tùy chỉnh những định kiến để tiếp cận một đối tượng cụ thể.
Anh cho rằng OpenAI nên quan tâm nhiều hơn đến việc bảo vệ trách nhiệm pháp lý hoặc danh tiếng của công ty hơn là phát hiện ra những cách mà nó có thể gây hại cho mọi người. "Tôi không lo lắng về những thứ như thành kiến xã hội hay thông tin sai lệch [...]. Đó sẽ không phải là một cuộc khủng hoảng mang tính hệ thống, bởi vì chúng ta đã ở sẵn trong một cuộc khủng hoảng rồi." Rinesi chia sẻ.
Nguồn: tinhte.vn