Ngày càng nhiều người bị lừa bởi ảnh, video giả do GenAI ngày càng tiến bộ, cho phép tạo deepfake một cách đơn giản, chuyên nghiệp.
Ngày 11/8, cựu tổng thống Mỹ Donald Trump đăng bài trên mạng xã hội Truth Social, tố Phó tổng thống Kamala Harris, dùng AI để chỉnh sửa ảnh. Chưa đầy 10 ngày sau, chính ông vướng vào rắc rối khi đăng ảnh deepfake của ngôi sao nhạc pop Taylor Swift. Trong chiến dịch tranh cử thổng thống Mỹ, một mối lo nhiều người quan tâm là deepfake ngày càng khó phân biệt.
Khác với việc chỉnh sửa ảnh bằng công cụ thông thường, deepfake được tạo ra bằng thuật toán chuyên biệt với sự hỗ trợ của AI. Cơn sốt AI tạo sinh (GenAI) càng thúc đẩy deepfake xuất hiện dưới nhiều định dạng từ ảnh, video, âm thanh, đến các cuộc gọi trực tiếp. Hai kiểu deepfake phổ biến nhất là ghép khuôn mặt và tạo nội dung giả mạo dựa trên nguồn ảnh, video, giọng nói thật.
Bài đăng trên mạng xã hội của ông Donald Trump ngày 19/8. Ảnh: realDonaldTrump/Truth Social
Bài đăng trên mạng xã hội của ông Donald Trump ngày 19/8. Ảnh: realDonaldTrump/Truth Social
Mối nguy hiểm lớn nhất deepfake gây ra là khả năng phát tán thông tin sai lệch, do người dùng khó phân biệt, hoặc do chúng xuất phát từ những nguồn đáng tin cậy. Trong trường hợp cựu tổng thống Trump tố bà Harris dùng ảnh deepfake, các chuyên gia kỹ thuật số đã phải dùng các mô hình thẩm định ảnh chuyên dụng mới có thể kết luận ảnh có chứa "vết tích" của AI.
Theo báo cáo về mối đe dọa của deepfake, do Bộ An ninh Nội địa Mỹ công bố, nhiều công cụ AI hiện cho phép tạo nội dung deepfake chỉ trong vài giây. Người dùng thậm chí không cần hệ thống tính toán cỡ lớn để chạy mô hình, họ chỉ cần một chiếc smartphone kết nối mạng là có thể tạo ảnh giả của bất kỳ ai với vô số ý tưởng.
Theo Cnet, nhờ sức mạnh của AI, tội phạm mạng và cả người dùng phổ thông có thể tạo âm thanh, video và ảnh giả có sức thuyết phục đáng kinh ngạc. Gần như không thể thống kê đang có bao nhiêu deepfake đang trôi nổi trên Internet vì có những nội dung chân thực đến mức khó xác định nếu không có công cụ phân tích chuyên sâu. Người dùng trên Facebook cũng có thể dễ dàng tìm thấy hàng trăm nghìn video quảng cáo dùng deepfake. Dù Facebook đã gỡ bỏ nhiều video theo tiêu chuẩn cộng đồng, chúng vẫn được đẩy lên và lẩn tránh công cụ kiểm duyệt. YouTube cũng tràn ngập video giả mạo, gắn nhãn "phát trực tiếp" để tạo lòng tin.
Công ty phân tích Sensity đã tập hợp 2.000 video deepfake lừa đảo và kết luận phần lớn nội dung này mạo danh các tỷ phú như Jeff Bezos, Warren Buffett, Elon Musk... và các nghệ sĩ nổi tiếng. Trong đó, Elon Musk là người xuất hiện nhiều nhất trong video deepfake để lừa mọi người đầu tư tiền số.
Theo Techtarget, lỗ hổng khiến deepfake ngày càng phát triển là luật pháp đang đi sau công nghệ. Dù gây ra nhiều đe dọa nghiêm trọng đến xã hội, deepfake chỉ bị xem là bất hợp pháp khi có nội dung về khiêu dâm trẻ em, phỉ báng hoặc kích động thù địch.
Tại Mỹ, theo dữ liệu của Bloomberg Law, đã có 5 bang cấm deepfake. Trong năm 2024 có 7 bang xem xét ra luật liên quan và ít nhất 10 bang coi việc sử dụng khuôn mặt người khác để làm video, ảnh chưa được phép là vi phạm. Một trong những lý do dẫn đến việc thiếu luật chống deepfake là nhiều người không hình dung hết về mối nguy của công nghệ này.
Trước mối những đe dọa ngày một nghiêm trọng của deepfake, các nền tảng như Facebook, YouTube, TikTok cố gắng phát hiện và dán nhãn cảnh báo nội dung có thể đã được AI can thiệp. Tuy nhiên, công nghệ làm giả đang tiến bộ quá nhanh, không phải lúc nào bộ lọc cũng nhận diện hiệu quả.
