Thông minh: Trí tuệ nhân tạo này phát hiện Deepfakes bằng cách phân tích ánh sáng phản chiếu trong đôi mắt

Deepfakes đang được sử dụng cho một loạt các mục đích gian lận, từ chiến dịch thông tin sai lệch đến việc chèn người vào phim người lớn, và những hình ảnh được chỉnh sửa ngày càng khó nhận diện.

Một công cụ Trí tuệ nhân tạo mới cung cấp một cách đơn giản đáng kinh ngạc để phát hiện chúng: nhìn vào ánh sáng phản chiếu trong đôi mắt.

Hệ thống này được tạo ra bởi các nhà khoa học máy tính từ Đại học Buffalo. Trong các thử nghiệm trên những bức ảnh theo kiểu chân dung, công cụ này có hiệu suất 94% trong việc phát hiện hình ảnh Deepfake.

[Đọc: Làm thế nào để xây dựng một thiết bị thân thiện với thú cưng? Chúng tôi đã hỏi các chuyên gia và chủ thú cưng]

Hệ thống này tiếp cận những hình ảnh giả mạo bằng cách phân tích giác mạc, có bề mặt giống như gương tạo ra các mô hình phản chiếu khi được chiếu sáng bởi ánh sáng.

Trong một bức ảnh của một khuôn mặt thực được chụp bằng máy ảnh, ánh sáng phản chiếu trên hai mắt sẽ tương tự vì chúng đều nhìn thấy cùng một thứ. Nhưng hình ảnh Deepfake được tổng hợp bởi GANs thường thất bại trong việc nắm bắt đúng sự tương đồng này.

Thay vào đó, chúng thường xuất hiện những không nhất quán, như các hình dạng hình học khác nhau hoặc vị trí phản chiếu không khớp.

Hệ thống Trí tuệ nhân tạo tìm kiếm những không nhất quán này bằng cách ánh xạ khuôn mặt và phân tích ánh sáng phản chiếu trên từng mắt.

Nó tạo ra một điểm số làm dấu chỉ tương đồng. Điểm số càng nhỏ, khả năng cao khuôn mặt là một Deepfake.

Hệ thống này đã chứng minh hiệu suất cao trong việc phát hiện Deepfakes từ This Person Does Not Exist, một kho ảnh được tạo ra bằng kiến trúc StyleGAN2. Tuy nhiên, các tác giả nghiên cứu nhận thức rằng nó có một số hạn chế.

Điểm yếu rõ nhất của công cụ là nó phụ thuộc vào nguồn ánh sáng phản chiếu trong cả hai mắt. Những không nhất quán trong các mô hình này có thể được sửa chữa bằng xử lý sau cùng, và nếu một mắt không hiển thị trong hình ảnh, phương pháp sẽ không hoạt động.

Nó cũng chỉ chứng minh hiệu quả trên những hình ảnh chân dung. Nếu khuôn mặt trong bức ảnh không nhìn vào camera, hệ thống có thể tạo ra các kết quả giả mạo.

Các nhà nghiên cứu đang kế hoạch điều tra những vấn đề này để cải thiện hiệu suất của phương pháp của họ. Ở dạng hiện tại, nó sẽ không phát hiện được những Deepfakes tinh tế nhất, nhưng vẫn có thể phát hiện nhiều loại tệ hơn.

Bạn có thể đọc bài nghiên cứu tại đây trên máy chủ arXiv.

Chào các Người máy! Bạn có biết chúng tôi có một bản tin về Trí tuệ nhân tạo không? Bạn có thể đăng ký ngay tại đây.