Một Video Biden bị chỉnh sửa là một trường hợp kiểm tra chính sách Deepfake của Facebook

Trong tháng 5, một video được chỉnh sửa của Tổng thống Joe Biden xuất hiện trên Facebook. Đoạn video gốc cho thấy Biden trong cuộc bầu cử giữa kỳ năm 2022, đặt một chiếc nhãn 'Tôi đã bỏ phiếu' lên ngực cháu gái và hôn nó trên má. Phiên bản bị chỉnh sửa lặp lại đoạn phim để tạo ra vẻ như ông đang liên tục chạm vào cô gái, với một chú thích gọi ông là 'người đồi trụy'.

Meta để lại video đó. Hôm nay, Ban Giám sát của công ty, một cơ quan độc lập kiểm tra nội dung của nền tảng, thông báo rằng họ sẽ xem xét quyết định đó, nhằm thúc đẩy Meta giải quyết cách họ sẽ xử lý phương tiện truyền thông được chỉnh sửa và thông tin sai lệch về bầu cử trước cuộc bầu cử tổng thống Mỹ năm 2024 và hơn 50 cuộc bỏ phiếu khác sẽ được tổ chức trên khắp thế giới vào năm sau.

“Bầu cử là nền móng của nền dân chủ và quan trọng là các nền tảng được trang bị để bảo vệ tính toàn vẹn của quá trình đó”, Dan Chaison, người phát ngôn của Ban Giám sát, nói. “Việc khám phá cách Meta có thể cải thiện cách xử lý nội dung bị biến đổi, bao gồm cả video nhằm đánh lừa công dân trước các cuộc bầu cử, càng trở nên quan trọng hơn khi có những tiến bộ trong trí tuệ nhân tạo.”

Meta cho biết trong một bài đăng trên blog rằng họ đã xác định video không vi phạm chính sách nói xấu, quấy rối hoặc truyền thông bị chỉnh sửa của Facebook. Dưới chính sách truyền thông bị chỉnh sửa của mình, Meta nói rằng họ sẽ loại bỏ một video nếu nó 'đã được chỉnh sửa hoặc tổng hợp ... một cách không rõ ràng đối với người thông thường và có thể làm người thông thường tin rằng chủ đề của video nói những từ họ không nói.' Meta lưu ý rằng video về Biden không sử dụng trí tuệ nhân tạo hoặc học máy để chỉnh sửa cảnh quay.

Chuyên gia đã cảnh báo từ nhiều tháng trước rằng cuộc bầu cử năm 2024 sẽ trở nên phức tạp và nguy hiểm hơn nhờ vào trí tuệ nhân tạo tạo ra âm thanh, video và hình ảnh giả mạo một cách chân thực hơn. Mặc dù Meta đã tham gia cùng các công ty công nghệ khác trong việc cam kết cố gắng kiểm soát các hậu quả của trí tuệ nhân tạo, nhưng hầu hết các chiến lược thông thường, như đặt dấu nước cho nội dung, chỉ có hiệu quả đôi khi là tốt nhất. Tuần trước ở Slovakia, một bản ghi âm giả mạo lan truyền trên Facebook, trong đó một trong những nhà chính trị hàng đầu của quốc gia có vẻ thảo luận về việc gian lận bầu cử. Những người tạo ra nó có thể lợi dụng một kẽ hở trong chính sách truyền thông bị chỉnh sửa của Meta, không bao gồm âm thanh giả mạo.

Mặc dù video về Biden chính nó không phải là do trí tuệ nhân tạo tạo ra hoặc chỉnh sửa, Ban Giám sát đã mời ý kiến công bố về trường hợp này với tư duy về trí tuệ nhân tạo và đang sử dụng trường hợp này như một cách để xem xét sâu sắc hơn các chính sách của Meta về video bị chỉnh sửa.

“Tôi nghĩ rằng vẫn còn trường hợp là nếu chúng ta nhìn rộng rãi qua những gì đang được chia sẻ, đó là nội dung bị ngụy tạo ngữ cảnh, nói sai, và vì vậy chính sách cần phản ánh cách họ sẽ xử lý điều đó,” Sam Gregory, giám đốc chương trình tại tổ chức phi lợi nhuận Witness, giúp người dùng sử dụng công nghệ để thúc đẩy quyền con người, nói.

Ban Giám sát có thể đưa ra các quyết định có tính ràng buộc cũng như đề xuất, mà Meta có thể chọn xem có tuân thủ hay không. Họ đã cố gắng đối mặt với các vụ án mà họ hy vọng sẽ giúp định hình cách tiếp cận của công ty đối với năm bầu cử 2024, xem xét quyết định của Meta khi không loại bỏ lời kêu gọi bạo lực trước cuộc bầu cử ở Campuchia của Thủ tướng Hun Sen, và bài phát biểu của một tướng lãnh Brazil trước cuộc nổi dậy sau bầu cử của chính quyền nước này.

Tuy nhiên, Gregory cũng lo ngại rằng ngay cả khi ban giám sát đưa ra các quyết định có tính ràng buộc về cách Meta nên tiếp cận truyền thông bị chỉnh sửa, họ có ít quyền lực để quyết định mức độ tiền bạc hoặc nguồn lực mà công ty thực sự chọn bỏ vào vấn đề này, đặc biệt là trong các cuộc bầu cử ngoại trừ Hoa Kỳ. Giống như nhiều công ty công nghệ lớn khác, Meta đã sa thải các nhân viên an toàn và đáng tin cậy đang xử lý các vấn đề như thông tin sai lệch và nói xấu. Meta cũng đã gặp khó khăn lịch sử trong việc kiểm soát nội dung không bằng tiếng Anh và ở ngữ cảnh ngoài Hoa Kỳ.

Khác với Google, đã giới thiệu các tính năng để giúp người dùng xác định xem một hình ảnh có phải là do trí tuệ nhân tạo tạo ra hay bị chỉnh sửa, Meta chưa tạo ra bất kỳ công cụ nào dành cho người tiêu dùng để cho phép họ hoặc các nhóm kiểm chứng sự thật hiểu rõ hơn về ngữ cảnh của nội dung mà họ có thể thấy.

Mặc dù Ban Giám sát có thể hy vọng sử dụng video về Biden để đặt nền móng cho cách Meta nên xử lý nội dung do trí tuệ nhân tạo tạo ra hoặc chỉnh sửa, Gregory nói rằng ông dự đoán nhiều câu hỏi xoay quanh truyền thông bị chỉnh sửa có thể vẫn không có lời giải đáp.

“Tôi nghĩ rằng việc Ban Giám đốc giám sát cung cấp một đánh giá rõ ràng về cách các chính sách đó đang hoạt động và cách chúng đang hoạt động toàn cầu,” nói Gregory. “Tôi không biết liệu điều đó có đến từ trường hợp này hay không.”