Buzz
Công nghệ này kết hợp thuật toán nhận diện khuôn mặt và giọng nói, được huấn luyện để nhận diện các video giả mạo.
YouTube đã chính thức triển khai hệ thống AI mới giúp phát hiện và kiểm soát nội dung deepfake, các video được tạo ra nhờ công nghệ AI để sao chép khuôn mặt hoặc giọng nói. Đây là động thái mạnh mẽ nhất của nền tảng này nhằm đối phó với mối đe dọa ngày càng gia tăng từ công nghệ deepfake và AI tạo hình.
Bảo vệ người sáng tạo khỏi nguy cơ bị lợi dụng danh tính
Hệ thống mới cho phép các thành viên đã xác minh trong Chương trình Đối tác YouTube yêu cầu xem xét và gỡ bỏ các video deepfake sử dụng trái phép hình ảnh hoặc giọng nói của họ. Mục tiêu của YouTube là ngăn ngừa hành vi mạo danh gây hiểu lầm hoặc lợi dụng hình ảnh người sáng tạo cho mục đích thương mại mà không có sự đồng ý.
Công nghệ này sử dụng thuật toán nhận dạng khuôn mặt và giọng nói đã được huấn luyện để phát hiện nội dung giả mạo. Nó hoạt động tương tự như hệ thống Content ID — công cụ được sử dụng trước đây để phát hiện vi phạm bản quyền, nhưng lần này nhằm bảo vệ quyền riêng tư và danh tính.
Quy trình xác minh an toàn
Để sử dụng tính năng này, người sáng tạo phải hoàn thành quy trình xác minh danh tính, bao gồm: đồng ý với việc xử lý dữ liệu, quét mã QR, tải lên giấy tờ tùy thân có ảnh do chính phủ cấp và quay video selfie ngắn để đào tạo mô hình nhận dạng. Dữ liệu này sẽ được xác thực trên máy chủ của Google và quá trình thường mất vài ngày.
Sau khi xác minh, người sáng tạo sẽ có quyền truy cập vào bảng điều khiển trong YouTube Studio. Tại đây, họ có thể xem các video nghi ngờ là deepfake, cùng với thông tin như tiêu đề, kênh tải lên, lượt xem, số người đăng ký và mức độ tin cậy mà YouTube đánh giá về khả năng video được tạo bởi AI.
Ba lựa chọn xử lý video deepfake
Khi phát hiện nội dung vi phạm, người sáng tạo có thể chọn một trong ba phương án phản hồi:
-
Gửi yêu cầu xóa video theo chính sách quyền riêng tư.
-
Gửi khiếu nại bản quyền nếu hình ảnh hoặc giọng nói bị sử dụng trái phép.
-
Lưu trữ video để làm tài liệu theo dõi sau này.
Việc tích hợp tính năng này trực tiếp vào công cụ kiểm duyệt của YouTube khiến nền tảng này trở thành một trong những mạng xã hội tiên phong trong việc bảo vệ danh tính với quy mô lớn sử dụng công nghệ AI.
