Deepfakes đang chiếm lĩnh TikTok — dưới đây là cách bạn có thể nhận diện chúng

Một trong những nền tảng truyền thông xã hội phổ biến nhất thế giới, TikTok, hiện nay đang chứng kiến sự xuất hiện ngày càng nhiều video deepfake.

Deepfakes là những video mà khuôn mặt hoặc cơ thể của đối tượng đã được chỉnh sửa kỹ thuật số để biến họ trở thành người khác — thường là một người nổi tiếng.

Một ví dụ đáng chú ý là tài khoản TikTok @deeptomcruise, đã đăng nhiều video deepfake giả mạo Tom Cruise và thu hút khoảng 3,6 triệu người theo dõi.

Trong một ví dụ khác, CEO của Meta Mark Zuckerberg dường như đang thú nhận về việc chia sẻ dữ liệu theo hợp đồng âm mưu. Gần đây, đã xuất hiện nhiều video ngớ ngẩn với sự tham gia của các diễn viên như Robert Pattinson và Keanu Reeves.

Mặc dù deepfakes thường được sử dụng một cách sáng tạo hoặc mang tính giải trí, chúng ngày càng được triển khai trong các chiến dịch gây nhầm lẫn, lừa đảo danh tính và để làm mất uy tín các nhân vật công cộng và người nổi tiếng.

Và trong khi công nghệ cần thiết để tạo ra chúng là phức tạp, thì nó ngày càng trở nên dễ tiếp cận, khiến phần mềm phát hiện và quy định đều đang tụt hậu.

Một điều chắc chắn là — deepfakes đã đến để ở lại. Vậy chúng ta có thể làm gì về chúng?

Các vai trò đa dạng

Việc biến đổi văn bản, hình ảnh và đoạn phim đã lâu trở thành nền tảng cơ bản của tương tác. Và deepfakes không phải là ngoại lệ; chúng là kết quả của mong muốn sâu sắc tham gia vào văn hóa, nghệ thuật kể chuyện, và remixing.

Công nghệ này được sử dụng rộng rãi trong nghệ thuật số và châm biếm số. Nó mang lại các kỹ thuật chèn hình ảnh tinh tế hơn (và rẻ hơn) so với màn xanh và hình ảnh máy tính.

Công nghệ deepfake cũng có thể tạo ra những sự tái hiện có vẻ chân thực của diễn viên đã mất và các sự kiện lịch sử. Chúng thậm chí có thể đóng một vai trò trong việc giúp người ta đối mặt với nỗi buồn mất người thân đã khuất.

Nhưng chúng cũng có sẵn để bị lạm dụng

Đồng thời, công nghệ deepfake được cho là gây ra nhiều vấn đề xã hội như:

• Deepfakes được sử dụng như "bằng chứng" cho tin tức giả mạo và thông tin sai lệch khác.
• Deepfakes được sử dụng để làm mất uy tín các ngôi sao và những người khác có cuộc sống nghệ thuật phụ thuộc vào việc chia sẻ nội dung và duy trì danh tiếng.
• Khó khăn trong việc cung cấp hình ảnh có thể xác minh được cho giao tiếp chính trị, thông điệp về sức khỏe và chiến dịch bầu cử.
• Mặt của những người được sử dụng trong đồng tính nóng ảnh deepfake.

Điểm cuối cùng đáng lo ngại. Năm 2019, công ty phần mềm phát hiện deepfake Deeptrace phát hiện rằng 96% trong số 14.000 video deepfake chứa nội dung khiêu dâm. Các ứng dụng miễn phí như DeepNude 2.0 đã được sử dụng để làm cho phụ nữ mặc quần áo trông như không mặc trong các đoạn video, thường là để trả thù và đe dọa.

Ở Úc, các ứng dụng deepfake thậm chí đã cho phép thủ phạm lách luật về "bộ ảnh thù địch" - một vấn đề dự kiến sẽ trở nên nghiêm trọng hơn trong thời gian sớm nhất.

Hơn thế nữa, deepfakes cũng được sử dụng trong lừa đảo và gian lận danh tính, đặc biệt là dưới dạng những đoạn video từ một "đồng nghiệp" hoặc "người thân" tin cậy yêu cầu chuyển khoản tiền. Một nghiên cứu cho thấy lừa đảo danh tính sử dụng biên tập số liệu kỹ thuật số đã tốn cho các tổ chức tài chính ở Mỹ 20 tỷ USD vào năm 2020.

Một vấn đề đang ngày càng phát triển

Những người tạo ra deepfakes nhấn mạnh lượng thời gian và công sức cần thiết để làm cho những video này trở nên chân thực. Như Chris Ume, nghệ sĩ hiệu ứng hình ảnh và trí tuệ nhân tạo đứng sau tài khoản TikTok @deeptomcruise. Khi tài khoản này trở nên nổi tiếng năm ngoái, Ume nói với The Verge "bạn không thể làm điều đó chỉ bằng cách nhấn một nút".

Tuy nhiên, có bằng chứng chất lượng deepfakes đang trở nên dễ dàng hơn. Các nhà nghiên cứu tại sáng kiến ​​Global Pulse của Liên hợp quốc đã chứng minh cách diễn thuyết có thể được làm giả mạo một cách thực tế chỉ trong 13 phút.

Khi có thêm ứng dụng deepfake được phát triển, chúng ta có thể mong đợi rằng người có kỹ năng thấp hơn sẽ ngày càng tạo ra những video deepfake trông chân thực. Hãy nghĩ về cách chỉnh sửa ảnh đã tăng mạnh trong thập kỷ qua.

Pháp luật, quy định và phần mềm phát hiện đang gặp khó khăn để đuổi kịp sự tiến bộ trong công nghệ deepfake.

Năm 2019, Facebook bị chỉ trích vì không thể loại bỏ video được chỉnh sửa của chính trị gia Mỹ Nancy Pelosi, sau khi nó không đáp ứng định nghĩa của mình về deepfake.

Năm 2020, Twitter cấm chia sẻ phương tiện tổng hợp có thể đánh lừa, làm nhầm lẫn hoặc gây hại cho người (trừ khi có áp dụng nhãn). TikTok cũng làm tương tự. Và YouTube cấm deepfakes liên quan đến cuộc bầu cử liên bang Mỹ năm 2020.

Nhưng ngay cả khi đây là các chính sách có ý tốt, không chắc chắn rằng người kiểm duyệt trên các nền tảng sẽ có khả năng phản ứng nhanh chóng và loại bỏ deepfakes theo đúng yêu cầu.

Ở Úc, các luật sư tại công ty Ashurst ở NSW cho biết các luật về bản quyền và phỉ báng hiện tại có thể không đủ để bảo vệ người Úc khỏi deepfakes.

Trong khi các nỗ lực để xây dựng luật đã bắt đầu ở nước ngoài, những nỗ lực này tập trung vào giao tiếp chính trị. Ví dụ, California đã làm việc này trái phép khi đăng tải hoặc phân phối nội dung được biến đổi số của ứng viên trong một cuộc bầu cử - nhưng không có bảo vệ cho những người không phải là chính trị gia hoặc người nổi tiếng.

Làm thế nào để phát hiện deepfake

Một trong những phương thuốc tốt nhất chống lại deepfake có hại là người dùng trang bị cho mình càng nhiều kỹ năng phát hiện càng tốt.

Thường, dấu hiệu đầu tiên của một deepfake là mọi thứ sẽ cảm thấy "khác thường". Nếu vậy, hãy nhìn chặt vào khuôn mặt của đối tượng và tự hỏi:

• Khuôn mặt có quá mịn không, hoặc có bóng đổ gò má không bình thường?
• Các chuyển động mí mắt và miệng có vẻ không liên kết, bắt buộc hoặc khác thường không?
• Tóc có vẻ giả mạo không? Công nghệ deepfake hiện tại gặp khó khăn trong việc duy trì diện mạo gốc của tóc (đặc biệt là râu).

Ngữ cảnh cũng quan trọng:

• Tự đặt câu hỏi về điều gì người đó đang nói hoặc làm. Họ có phủ nhận vắc xin, hoặc tham gia trong một đoạn clip khiêu dâm không? Mọi thứ có vẻ lạc lõng hoặc ngược lại với kiến thức công cộng sẽ là quan trọng ở đây.
• Tìm kiếm trực tuyến các từ khóa về video hoặc người trong đó, vì nhiều video deepfake đáng nghi đã bị làm giả mạo trước đó.
• Cố gắng đánh giá tính đáng tin cậy của nguồn thông tin - liệu nó có dường như là thật sự? Nếu bạn đang trên một nền tảng truyền thông xã hội, tài khoản của người đăng có được xác minh không?

Rất nhiều điều trên là kiến thức số cơ bản và đòi hỏi việc thực hành đánh giá đúng đắn. Khi lý thuyết thông thường thất bại, có một số cách sâu rộng hơn để cố gắng phát hiện deepfake. Bạn có thể:

• Tìm kiếm các từ khóa được sử dụng trong video để xem liệu có bản ghi công cộng về những gì đang được nói không - các tờ báo thường đưa tin về những câu nói của các chính trị gia và người nổi tiếng trong vòng 72 giờ.
• Chụp ảnh màn hình khi video đang phát và thực hiện tìm kiếm ảnh ngược Google. Điều này có thể làm sáng tỏ liệu có phiên bản gốc của video tồn tại, mà bạn sau đó có thể so sánh với phiên bản đáng ngờ.
• Kiểm tra bất kỳ video đáng ngờ nào có chứa một "đồng nghiệp" hoặc "người thân" bằng cách trực tiếp hỏi họ.

Bài viết của Rob Cover, Giáo sư Truyền thông Số, Đại học RMIT

Bài viết này được tái xuất bản từ The Conversation dưới giấy phép Creative Commons. Đọc bài viết gốc.