Giờ mà video deepfake bắt chước khuôn mặt, giọng nói của một người giống như thật không khác gì người thật luôn, dùng để gây hiểu lầm, ép chuyển tiền, đánh cắp danh tính - kinh khủng khiếp luôn!
Thuật ngữ này ghép từ "deep learning" (học sâu) và "fake" (giả mạo), nói về nội dung giả mạo được tạo bằng trí tuệ nhân tạo (AI). Deepfake thường là hình ảnh, âm thanh và video nhái khuôn mặt hoặc giọng nói của một người để dùng vào mục đích không lành mạnh chút nào.
Theo Diễn đàn Kinh tế Thế giới (WEF), các video deepfake đang tăng với tốc độ 900% mỗi năm - tưởng tượng được không?! Công nghệ bây giờ phát triển nên việc sản xuất chúng dễ như ăn kẹo vậy.
Deepfake được dùng làm vũ khí trong các cuộc tấn công nhằm gây ảnh hưởng đến hoạt động hoặc tung ra các chiến dịch thông tin sai lệch. Mục đích khác còn có lừa đảo online, đánh cắp danh tính và gian lận tài chính nữa.
Một trong những ví dụ deepfake đình đám nhất dạo gần đây là hình ảnh cựu Tổng thống Mỹ Donald Trump bị bắt giữ á.
Về cơ chế hoạt động thì deepfake dùng kỹ thuật AI siêu xịn để thu thập data về chuyển động cơ thể, đặc điểm khuôn mặt và cả giọng nói luôn, rồi xử lý qua thuật toán mã hóa AI hoặc Mạng đối kháng tạo sinh (GAN), để tạo ra âm thanh, hình ảnh fake nhưng giống thật đến mức không thể tin nổi!
Nói dễ hiểu hơn, đó là video, hình ảnh hoặc âm thanh được AI tạo ra, bắt chước ngoại hình và/hoặc giọng nói của một người.
Thực ra đây không phải công nghệ mới toanh đâu. Nó đã được dùng nhiều năm ở các hãng phim Hollywood rồi, nhưng giờ trở nên phổ biến thông qua các app thương mại. Nội dung này tăng nhiều đến mức Facebook phải cấm deepfake từ năm 2020 luôn.
Bản thân deepfake không xấu nhưng hay bị lợi dụng cho những mục đích mờ ám lắm. Một báo cáo gần đây của Europol cảnh báo rằng hầu hết các deepfake lan truyền đều có mục đích xấu xa. Những nội dung mà công nghệ này thường bị lợi dụng gồm:
• Ghép mặt người vào những bối cảnh có toan tính riêng
• Sử dụng hình ảnh và tiếng nói của một người để vượt qua mật khẩu sinh trắc học
• Lừa đảo trên nền tảng kỹ thuật số
• Lan truyền tin giả và thông tin sai lệch, gây rủi ro phá vỡ thị trường tài chính và tạo bất ổn cho các mối quan hệ quốc tế
• Trộm cắp danh tính, tống tiền
Đáng lo hơn, khi công nghệ này ngày càng dễ tiếp cận, số vụ phạm tội có thể tăng vọt. Chính vì vậy, các cơ quan chức trách khuyên mọi người cần phải hiểu rõ về deepfake và cách ngăn chặn hiểm họa liên quan.
Đã có nhiều trò lừa đảo deepfake gần đây rồi nè, chẳng hạn như bọn lừa đảo dùng công nghệ deepfake để tạo ảnh ba chiều, sau đó dùng trong các cuộc gọi video để giả làm giám đốc truyền thông, đánh lừa các giám đốc điều hành khác nhằm thu thập thông tin bí mật.
Với âm thanh deepfake, bọn tội phạm đã dùng công nghệ sao chép giọng nói thời gian thực để lừa một giám đốc ngân hàng Hồng Kông chuyển 35 triệu USD luôn á!
Trong một vụ lừa đảo đặc biệt nghiêm trọng, bọn chúng đã gửi thư thoại mô phỏng giọng nói của một CEO, yêu cầu nhân viên đóng góp cho các hoạt động từ thiện, cứu trợ thiên tai thông qua các trang web giả mạo để chuyển tiền vào các tài khoản ở nước ngoài.
Làm sao để phát hiện deepfake?
Deepfake ngày càng tinh vi và khó phát hiện hơn thật. Nhưng vẫn có một số cách để phát hiện thứ trước mặt mình là lừa đảo hay không đó:
Số lần nháy mắt
Bằng cách chú ý đến số lần hình ảnh trong video nháy mắt, ta có thể biết được đó là người thật hay deepfake, vì deepfake có xu hướng nháy ít hơn người thật, đôi khi theo cách gượng ép hoặc không tự nhiên.
Khuôn mặt và cơ thể
Giả mạo toàn bộ tính cách của một người đòi hỏi khá nhiều công sức, nên hầu hết các tác phẩm deepfake chỉ giới hạn ở việc thay thế khuôn mặt. Một cách để phát hiện là xác định sự không hợp lý giữa tỷ lệ cơ thể và khuôn mặt, giữa nét mặt và chuyển động hoặc tư thế của cơ thể.
Thời lượng video
Một video fake đòi hỏi vài giờ thực hiện và train thuật toán, vì vậy các video deepfake thường chỉ dài vài giây thôi.
Âm thanh video
Deepfake vẫn còn hạn chế trong việc kết hợp cả giọng nói và khuôn mặt giả mạo. Hãy nghi ngờ nếu video không có âm thanh hoặc có âm thanh không khớp với khẩu hình nhé.
Bên trong miệng
Công nghệ tạo deepfakes không giỏi trong việc tái tạo lưỡi, răng và khoang miệng khi người đó nói. Do đó, vết mờ bên trong miệng cho thấy đó là hình ảnh giả mạo.
Những chi tiết khác
Chi tiết cũng là điểm yếu của phần mềm deepfake. Do đó, ta có thể phát hiện ra chúng bằng cách tập trung vào các khía cạnh nhỏ, chẳng hạn như quầng thâm quanh mắt, râu không thật trên khuôn mặt, da quá mịn hoặc nhăn nheo, nốt ruồi fake và màu môi không tự nhiên.
Nguồn: kenh14.vn