Sự Gần Kề của Deepfakes Rẻ Ràng và Dễ Dàng Hơn đến Điều Thực Sự | MYTOUR

Buzz

Ngày cập nhật gần nhất: 15/12/2025

Nội dung bài viết

Deepfakes Rẻ Ràng và Dễ Dàng Hơn đến Gần Điều Thực Sự

Có nhiều bức ảnh của Tom Hanks, nhưng không có bức nào giống như những hình ảnh của người dẫn đầu mọi người được trình bày tại Hội nghị an ninh máy tính Black Hat vào thứ Tư: Chúng được tạo ra bởi các thuật toán học máy, không phải máy ảnh.

Philip Tully, một nhà khoa học dữ liệu tại công ty an ninh FireEye, đã tạo ra các hình ảnh giả mạo Hanks để kiểm tra xem phần mềm nguồn mở từ các phòng thí nghiệm trí tuệ nhân tạo có thể được điều chỉnh cho các chiến dịch thông tin sai lệch như thế nào. Kết luận của anh ấy: “Những người có ít kinh nghiệm có thể sử dụng những mô hình học máy này và làm những điều mạnh mẽ khá dễ dàng,” anh ta nói.

Nhìn ở độ phân giải đầy đủ, các hình ảnh giả mạo của Hanks của FireEye có nhược điểm như các nếp cổ không tự nhiên và cấu trúc da. Nhưng chúng tái tạo chính xác các chi tiết quen thuộc trên khuôn mặt của diễn viên như những nếp trán và đôi mắt màu xanh xám, nhìn chăm chú vào người xem. Ở quy mô của một hình ảnh xem trước trên mạng xã hội, những hình ảnh được tạo bởi trí tuệ nhân tạo có thể dễ dàng được nhận diện như thật.

Để tạo ra chúng, Tully chỉ cần thu thập vài trăm hình ảnh của Tom Hanks trực tuyến và chi tiêu dưới $100 để điều chỉnh phần mềm tạo khuôn mặt nguồn mở cho chủ đề đã chọn. Trang bị với phần mềm đã được điều chỉnh, anh ta tạo ra hình ảnh giả mạo của Hanks. Tully cũng sử dụng các phần mềm trí tuệ nhân tạo nguồn mở khác để cố gắng mô phỏng giọng của diễn viên từ ba đoạn clip trên YouTube, với kết quả không ấn tượng lắm.

Bằng cách thể hiện cách một người có thể dễ dàng và giá rẻ tạo ra những bức ảnh giả mạo khá tốt, dự án của FireEye có thể làm tăng độ nghiêm trọng của lo ngại rằng thông tin sai lệch trực tuyến có thể được khuếch đại bởi công nghệ trí tuệ nhân tạo tạo ra hình ảnh hoặc âm thanh tốt. Những kỹ thuật và sản phẩm của chúng thường được gọi là deepfakes, một thuật ngữ lấy từ tên một tài khoản Reddit đã đăng các video khiêu dâm được chỉnh sửa để bao gồm khuôn mặt của các nữ diễn viên Hollywood vào cuối năm 2017.

Hầu hết deepfakes được quan sát trên thế giới rộng lớn của Internet có chất lượng thấp và được tạo ra cho mục đích khiêu dâm hoặc giải trí. Cho đến nay, việc sử dụng xấu của deepfakes được ghi nhận tốt nhất là quấy rối phụ nữ. Các dự án doanh nghiệp hoặc sản xuất truyền thông có thể tạo ra sản phẩm hoàn thiện hơn, bao gồm cả video, với ngân sách lớn hơn. Nhóm nghiên cứu của FireEye muốn chỉ ra cách ai đó có thể lợi dụng nghiên cứu trí tuệ nhân tạo phức tạp với tài nguyên hoặc chuyên môn ít. Cả hai đảng trong Quốc hội đã bày tỏ lo ngại rằng deepfakes có thể bị lạm dụng để can thiệp chính trị.

Những thử nghiệm deepfake của Tully tận dụng cách các nhóm nghiên cứu trí tuệ nhân tạo của học thuật và doanh nghiệp công bố rộng rãi những tiến bộ mới nhất của họ và thường xuyên công bố mã nguồn của họ. Anh ta sử dụng một kỹ thuật được biết đến là điều chỉnh tinh chỉnh, trong đó một mô hình học máy được xây dựng với chi phí lớn với một bộ dữ liệu lớn các ví dụ được điều chỉnh cho một nhiệm vụ cụ thể với một bể ví dụ nhỏ hơn nhiều.

Để tạo ra Hanks giả mạo, Tully đã điều chỉnh một mô hình tạo khuôn mặt được Nvidia phát hành vào năm ngoái. Hãng chip này đã tạo phần mềm của mình bằng cách xử lý hàng triệu khuôn mặt mẫu trong vài ngày trên một cụm xử lý đồ họa mạnh mẽ. Tully đã điều chỉnh nó thành một máy tạo Hanks trong ít hơn một ngày trên một bộ xử lý đồ họa duy nhất được thuê trong đám mây. Riêng biệt, anh ta nhân bản giọng của Hanks trong vài phút chỉ bằng laptop của mình, ba đoạn âm thanh 30 giây và dự án tái tạo nguồn mở của một sinh viên sau đại học về một dự án tổng hợp giọng của Google.

Khi sự cạnh tranh giữa các phòng thí nghiệm trí tuệ nhân tạo đẩy mạnh các tiến bộ hơn nữa—và những kết quả đó được chia sẻ—các dự án như vậy sẽ trở nên thuyết phục hơn và thuyết phục hơn, anh ta nói. “Nếu điều này tiếp tục, có thể sẽ có hậu quả tiêu cực cho xã hội nói chung,” Tully nói. Trước đây, anh ta đã làm việc với một thực tập sinh để chỉ ra rằng phần mềm tạo văn bản trí tuệ nhân tạo có thể tạo nội dung tương tự như của Cơ quan Nghiên cứu Internet của Nga, đã cố gắng thao túng cuộc bầu cử tổng thống năm 2016.

Tim Hwang, một nghiên cứu viên tại Trung tâm An ninh và Công nghệ Nổi bật tại Đại học Georgetown, nói rằng các thử nghiệm như của FireEye có thể giúp cố định cuộc tranh luận về mối đe dọa từ deepfakes, mà đôi khi tiệm cận ranh giới hồi hộp. “Rất nhiều cuộc thảo luận về mối đe dọa đều được thúc đẩy bởi những câu chuyện kịch tính,” anh ta nói. Một ví dụ tái diễn là về việc tưởng tượng một cuộc bầu cử tổng thống bị gian lận bằng một deepfake hoàn hảo, đúng thời điểm của một trong những ứng cử viên.

Dự án của FireEye điền vào một số chi tiết thực tế bằng cách cho thấy những gì có thể đạt được với tài nguyên tối thiểu và thành quả nguồn mở của nghiên cứu trí tuệ nhân tạo. Hwang nói rằng việc kết hợp thông tin loại này với những gì đã biết về cách tổ chức thông tin sai lệch hoạt động là cách tốt hơn để đánh giá mối đe dọa deepfake hơn là xem xét các kịch bản xấu nhất. “Tôi nghĩ về người quản lý trung ương tại Cơ quan Nghiên cứu Internet phải trình bày với cấp trên và nói ‘Dây là những gì bạn đã đạt được từ đầu tư của mình,’” Hwang nói.

Mặc dù có những bức tranh giả Hanks của Tully, nhưng Hwang nói rằng dường như ứng dụng giết chết cho thông tin sai lệch từ deepfake vẫn chưa xuất hiện. IRA và những người khác đạt được nhiều với lao động rẻ và cơ sở hạ tầng công nghệ tương đối đơn giản và có lẽ không có nhiều lợi ích từ các dự án AI nhỏ. Việc tạo ra video deepfake phức tạp sẽ đòi hỏi nhiều thời gian và chuyên môn. Hwang là tác giả của một báo cáo được công bố vào tháng trước, kết luận rằng deepfakes không đưa ra mối đe dọa cấp bách và cận kề, nhưng xã hội nên đầu tư vào các biện pháp phòng thủ dù sao.

Báo cáo đề xuất các phòng thí nghiệm doanh nghiệp và học thuật tạo ra “vườn thú deepfake” thu thập các ví dụ được tạo ra bằng các kỹ thuật nguồn mở khác nhau như những kỹ thuật được sử dụng bởi FireEye để giúp tạo ra các thiết bị phát hiện deepfake. Một số công ty đã bắt đầu làm việc vào các dự án tương tự. Nvidia đã công bố kết quả về cách phát hiện khuôn mặt được tổng hợp bằng phần mềm của mình.

Facebook gần đây đã tạo ra một kho video deepfake và cung cấp 500,000 đô la cho bộ phát hiện deepfake hiệu suất tốt nhất được đào tạo trên chúng. Người chiến thắng có thể phát hiện deepfakes không nằm trong bộ sưu tập của Facebook chỉ 65% trong số lần.

Nhóm nghiên cứu của FireEye cũng đang nghĩ về cách deepfakes có thể phù hợp với các thực hành hiện tại trong lĩnh vực thông tin sai lệch. Buổi thuyết trình của Tully vào thứ Tư là sự hợp tác với Lee Foster, người dẫn đầu một nhóm tại công ty theo dõi các chiến dịch thao túng trực tuyến. Năm ngoái, họ đã vạch trần một chiến dịch thông tin sai lệch ủng hộ Iran sử dụng nhân vật giả mạo trên Twitter và Facebook và thậm chí lừa dối các chuyên gia về chính trị Trung Đông để tham gia các cuộc phỏng vấn sau đó được sử dụng để đẩy thông điệp của chiến dịch.

Foster cho biết kết quả của Tully và kinh nghiệm của chính mình với người gieo thông tin sai lệch khiến ông nghĩ rằng họ có thể sớm chuyển sang sử dụng deepfakes. Ảnh đại diện được lấy từ các nguồn khác là một dấu hiệu mà các nhà điều tra thông tin sai lệch sử dụng để giúp vạch trần các nhân vật giả mạo. Nội dung Hanks giả mạo không còn xa so với chất lượng cần thiết để cung cấp một lựa chọn thách thức, ông nói. “Những thứ này không cần phải hoàn hảo để thuyết phục trong một thế giới nơi chúng ta nhanh chóng tiêu thụ thông tin như chúng ta đang làm,” Foster nói. “Nếu bạn đang cuộn qua feed Twitter của mình với tốc độ, bạn sẽ không kiểm tra kỹ lưỡng ảnh đại diện.”

Sự Gần Kề của Deepfakes Rẻ Ràng và Dễ Dàng Hơn đến Điều Thực Sự | MYTOUR

Deepfakes Rẻ Ràng và Dễ Dàng Hơn đến Gần Điều Thực Sự

More Great MYTOUR Stories