Buzz
Hiện tại, các công cụ này chủ yếu phục vụ cho các nhà sáng tạo nội dung, đồng thời mang lại lợi ích thiết thực cho công chúng và các nhạc sĩ.
YouTube, thuộc sở hữu của Google, đã công bố vào thứ Năm rằng họ đang phát triển các công cụ mới để nhận diện video deepfake. Những công cụ này sẽ hỗ trợ các nhà sáng tạo nội dung trong việc phát hiện video sử dụng giọng nói hoặc khuôn mặt của họ mà không có sự cho phép. Mặc dù hai công cụ đã được công bố, YouTube vẫn chưa đưa ra ngày phát hành cụ thể.
Công cụ đầu tiên sẽ được tích hợp vào hệ thống ID nội dung hiện tại của YouTube, giúp tự động phát hiện và xử lý các vi phạm bản quyền. Điều này đặc biệt có ích cho các nhạc sĩ nổi tiếng, những người có giọng hát bị AI mô phỏng để tạo ra nhạc mới. Tuy nhiên, hiệu quả của công cụ này đối với các nghệ sĩ ít nổi tiếng hơn vẫn còn chưa rõ ràng.
Công cụ thứ hai sẽ hỗ trợ các nhân vật nổi tiếng như người ảnh hưởng, diễn viên, vận động viên, hoặc nghệ sĩ trong việc theo dõi và phát hiện nội dung sử dụng khuôn mặt của họ được tạo ra bởi AI. Tuy nhiên, YouTube vẫn chưa rõ liệu công cụ này có được sử dụng để xóa các video gây hiểu lầm hoặc lừa đảo liên quan đến những người không nổi tiếng.
YouTube cũng thông báo rằng họ sẽ cho phép bất kỳ ai yêu cầu gỡ bỏ nội dung deepfake hoặc mạo danh do AI tạo ra. Điều này có nghĩa là người dùng phải chủ động tìm kiếm và yêu cầu gỡ bỏ các nội dung mạo danh này.
Với sự gia tăng của AI và sự dễ tiếp cận, số lượng video deepfake trên internet đã gia tăng mạnh mẽ. Một nghiên cứu gần đây cho thấy số lượng video deepfake đã tăng 550% kể từ năm 2021, chủ yếu là nội dung khiêu dâm và gần như toàn bộ nạn nhân là phụ nữ. Bộ An ninh Nội địa Hoa Kỳ cũng đã cảnh báo về mối đe dọa ngày càng lớn từ các công nghệ deepfake, đặc biệt là những ứng dụng có thể tạo ra nội dung khiêu dâm chỉ từ một video ngắn.
Cuối cùng, YouTube nhấn mạnh mục tiêu của họ là sử dụng AI để 'tăng cường khả năng sáng tạo của con người chứ không phải thay thế nó' và cam kết phát triển các công cụ để kiểm soát và loại bỏ nội dung giả mạo.
