YouTube Phát Triển Thành Công Công Cụ Phát Hiện Deepfake Bằng Giọng Nói Và Khuôn Mặt

Cho đến nay, các công cụ này dành cho những người sáng tạo và chủ yếu mang lại lợi ích cho những người của công chúng và nhạc sĩ.

YouTube, sở hữu của Google, đã thông báo vào thứ Năm rằng họ đang phát triển nhiều công cụ mới để phát hiện các video deepfake. Công cụ này nhằm giúp người sáng tạo nội dung dễ dàng hơn trong việc xác định các video sử dụng giọng nói hoặc khuôn mặt của họ mà không được phép. Dù đã công bố hai công cụ phát hiện riêng biệt, YouTube vẫn chưa ấn định ngày phát hành cụ thể cho chúng.

Công cụ đầu tiên sẽ được tích hợp vào hệ thống ID nội dung hiện tại của YouTube, cho phép tự động phát hiện và xử lý vi phạm bản quyền. Điều này sẽ đặc biệt hữu ích cho các nhạc sĩ nổi tiếng mà giọng hát của họ được AI mô phỏng để sáng tác nhạc mới. Tuy nhiên, hiệu quả của công cụ này đối với các nghệ sĩ ít nổi tiếng hơn vẫn còn là một dấu hỏi.

Công cụ thứ hai sẽ giúp các nhân vật công cộng như người có ảnh hưởng, diễn viên, vận động viên hoặc nghệ sĩ theo dõi và đánh dấu các nội dung sử dụng khuôn mặt của họ do AI tạo ra. Tuy nhiên, vẫn chưa rõ YouTube sẽ chủ động sử dụng công cụ này để xóa các video gây nhầm lẫn hoặc lừa đảo liên quan đến những người không nổi tiếng.

YouTube cũng khẳng định rằng họ sẽ cho phép bất kỳ ai yêu cầu xóa nội dung deepfake hoặc mạo danh do AI tạo ra. Điều này đồng nghĩa với việc những người sử dụng deepfake cần phải chủ động tìm kiếm và yêu cầu xóa các nội dung mạo danh này.

Với việc AI ngày càng trở nên phổ biến và dễ tiếp cận, số lượng video deepfake trên internet đã tăng vọt. Một nghiên cứu gần đây cho thấy số lượng video deepfake đã tăng 550% từ năm 2021, với phần lớn là nội dung khiêu dâm và gần như toàn bộ nạn nhân là phụ nữ. Bộ An ninh Nội địa Hoa Kỳ cũng đã cảnh báo về mối đe dọa ngày càng tăng từ các công nghệ deepfake, đặc biệt là những ứng dụng có thể tạo ra nội dung khiêu dâm chỉ từ một video ngắn.

Cuối cùng, YouTube nhấn mạnh mục tiêu của họ là sử dụng AI để "nâng cao khả năng sáng tạo của con người chứ không phải thay thế nó" và cam kết phát triển các công cụ để giúp kiểm soát và xóa bỏ nội dung giả mạo