Nghiên cứu về Deepfakes phát hiện ra rằng văn bản được chỉnh sửa mang tính chất thao túng hơn cả video giả mạo.

Các Deepfakes đã được xếp hạng là mối đe dọa trí tuệ nhân tạo nguy hiểm nhất, nhưng nghiên cứu mới cho thấy bút có sức mạnh hơn hình ảnh.

Các nhà khoa học tại Viện truyền thông MIT đã cho hơn 6,000 người tham gia vào việc đánh giá 16 bài phát biểu chính trị chân thực và 16 bài bị chỉnh sửa bởi trí tuệ nhân tạo. Những đoạn âm thanh được trình bày theo các biến thể của văn bản, video và âm thanh, như video có phụ đề hoặc chỉ có văn bản.

Người tham gia được thông báo rằng một nửa nội dung là giả mạo và được hỏi về những đoạn trích nào họ tin là giả mạo.

Khi chỉ được xem văn bản một mình, người tham gia chỉ có chút khả năng nhận biết sự giả mạo (độ chính xác 57%) so với việc đoán ngẫu nhiên.

Họ trở nên chính xác hơn một chút khi được xem video với phụ đề (66%), và hiệu quả hơn nhiều khi được xem cả video lẫn âm thanh (82%).

Những tác giả nghiên cứu cho biết người tham gia dựa nhiều hơn vào cách mà điều gì đó được nói hơn là nội dung bài phát biểu chính thức:

Kết luận rằng video giả mạo về bài phát biểu chính trị dễ nhận biết hơn so với bản ghi âm văn bản làm nổi bật sự cần thiết phải giới thiệu và giải thích nửa thứ hai thường bị quên của thành ngữ 'thấy là tin'.

Tuy nhiên, có một điều cảnh báo với những kết luận của họ: deepfakes của họ không hoàn toàn siêu thực.

“Nguy hiểm của video giả mạo có thể không phải là trung bình của deepfake được tạo ra theo thuật toán mà là một video duy nhất, được làm mịn và rất thuyết phục,” các nhà nghiên cứu cảnh báo trong bài báo tiền xuất bản của họ.

Nghiên cứu được tiến hành trong bối cảnh lo ngại rằng Nga sẽ phổ biến video deepfake về Tổng thống Ukraine tuyên bố đầu hàng.

Những lo ngại này là hợp lý. Tuy nhiên, nhiều thông tin sai lệch đang lan truyền hiện nay không liên quan đến deepfakes.

Một số nhà nghiên cứu lo ngại hơn về việc người ta chia sẻ hình ảnh trông như từ cuộc chiến tranh hiện tại — nhưng thực tế là đã được tái sử dụng từ các sự kiện cũ hơn.

“Việc tìm kiếm một bức ảnh hoặc video và đăng lại nó dễ hơn nhiều so với việc tạo ra một deepfake, mà là công việc khó khăn,” Daniel Funke, một phóng viên thuộc đội kiểm chứng sự thật của USA Today, nói với Axios.

Quan sát tương tự đã được thực hiện trước cuộc bầu cử Tổng thống Hoa Kỳ năm 2020.

Trong khi các nhà nghiên cứu cảnh báo rằng deepfakes có thể ảnh hưởng đến kết quả, những sự thật trắng trợn và chỉnh sửa cơ bản là hình thức phổ biến hơn để lan truyền thông tin sai lệch.

Điều này không có nghĩa là deepfakes không phải là một nguy hiểm. Nhưng các kỹ thuật lừa dối nguyên thủy hơn có thể hiện đang đe doạ nhiều hơn.