Bản Đồ Deepfake Có Thể Gây Rối Lẫn Cảm Nhận Thế Giới Của Bạn

Hình ảnh vệ tinh cho thấy sự mở rộng của các trại giam lớn ở Xinjiang, Trung Quốc, từ năm 2016 đến 2018 cung cấp một số bằng chứng mạnh mẽ về việc chính phủ áp đặt biện pháp trừng phạt đối với hơn một triệu người Hồi giáo, gây ra lời lẽ phê phán và trừng phạt quốc tế.
Các hình ảnh không gian khác—về các cơ sở hạt nhân ở Iran và các trạm tên lửa ở Bắc Triều Tiên, ví dụ—đã có tác động tương tự đối với sự kiện toàn cầu. Bây giờ, các công cụ chỉnh sửa hình ảnh được tạo ra nhờ trí tuệ nhân tạo có thể làm tăng độ khó chấp nhận hình ảnh như vậy mà không nghi ngờ.
Trong một bài báo được đăng trực tuyến tháng trước, giáo sư Đại học Washington Bo Zhao sử dụng các kỹ thuật Trí tuệ Nhân tạo tương tự như những kỹ thuật được sử dụng để tạo ra những hình ảnh deepfake để thay đổi hình ảnh vệ tinh của một số thành phố. Zhao và đồng nghiệp tráo đổi đặc điểm giữa các hình ảnh của Seattle và Bắc Kinh để cho thấy các tòa nhà ở nơi nào đó không có ở Seattle và loại bỏ các công trình và thay thế chúng bằng cây cỏ ở Bắc Kinh.
Zhao sử dụng một thuật toán được gọi là CycleGAN để biến đổi hình ảnh vệ tinh. Thuật toán này, được phát triển bởi các nhà nghiên cứu tại Đại học California, Berkeley, đã được rộng rãi sử dụng cho nhiều loại ảnh khác nhau. Nó huấn luyện một mạng nơ-ron nhân tạo để nhận diện các đặc điểm chính của một số hình ảnh nhất định, như một kiểu vẽ hoặc các đặc tính trên một loại bản đồ cụ thể. Một thuật toán khác sau đó giúp tinh chỉnh hiệu suất của thuật toán đầu tiên bằng cách cố gắng phát hiện khi nào một hình ảnh đã được chỉnh sửa.

Như những đoạn video deepfake giả mạo việc hiển thị người trong các tình huống khó xử, những hình ảnh như vậy có thể đánh lừa chính phủ hoặc lan truyền trên mạng xã hội, gieo rắc thông tin sai lệch hoặc nghi ngờ về thông tin hình ảnh thực tế.
“Tôi hoàn toàn nghĩ rằng đây là một vấn đề lớn có thể không ảnh hưởng đến công dân bình thường ngày mai nhưng sẽ đóng một vai trò lớn hơn sau cánh cửa trong thập kỷ tới,” nói Grant McKenzie, giáo sư trợ giảng khoa học dữ liệu không gian tại Đại học McGill ở Canada, người không liên quan đến công việc này.
“Hãy tưởng tượng một thế giới nơi một chính phủ tiểu bang hoặc bất kỳ bên nào khác có thể thực tế biến đổi hình ảnh để hiển thị hoặc không có gì ở đó hoặc một bố cục khác,” McKenzie nói. “Tôi không hoàn toàn chắc chắn có thể làm gì để ngăn chặn nó ở điểm này.”
Một số hình ảnh vệ tinh bị chỉnh sửa một cách thô sơ đã lan truyền mạnh mẽ trên mạng xã hội, bao gồm một bức ảnh giả vờ hiển thị Ấn Độ sáng rực trong lễ hội Hindu Diwali được sửa tay. Có thể chỉ là vấn đề thời gian trước khi những hình ảnh vệ tinh "deepfake" phức tạp hơn được sử dụng để, ví dụ, che giấu cơ sở lắp đặt vũ khí hoặc sai lầm để bảo vệ hành động quân sự.
Gabrielle Lim, một nghiên cứu viên tại Trường Kinh tế Kennedy của Harvard chuyên sâu về thao tác truyền thông, nói rằng bản đồ có thể được sử dụng để đánh lừa mà không cần Trí tuệ Nhân tạo. Cô chỉ đến những hình ảnh được lan truyền trên mạng cho rằng Alexandria Ocasio-Cortez không ở nơi cô tuyên bố trong vụ nổi loạn tại Quốc hội vào ngày 6 tháng 1, cũng như hộ chiếu Trung Quốc hiển thị một khu vực tranh chấp của Biển Đông là của Trung Quốc. “Không có công nghệ phức tạp, nhưng có thể đạt được các mục tiêu tương tự,” Lim nói.
Hình ảnh không gian bị chỉnh sửa cũng có thể có ý nghĩa thương mại, bởi vì những hình ảnh như vậy có giá trị lớn đối với bản đồ số, theo dõi hệ thống thời tiết và hướng dẫn đầu tư.
Tình báo Mỹ đã thừa nhận rằng hình ảnh vệ tinh bị chỉnh sửa là một mối đe dọa ngày càng lớn. “Đối thủ có thể sử dụng thông tin giả mạo để ảnh hưởng đến sự hiểu biết của chúng ta về thế giới,” nói một người phát ngôn của Cơ quan Thông tin Địa lý Quốc gia, một phần của Bộ Quốc phòng giám sát việc thu thập, phân tích và phân phối thông tin địa lý.
Người phát ngôn nói rằng phân tích pháp y có thể giúp xác định hình ảnh giả mạo nhưng thừa nhận rằng sự gia tăng của những hình ảnh giả mạo tự động có thể đòi hỏi những phương pháp mới. Phần mềm có thể có khả năng xác định các dấu hiệu tiêu biểu của sự chỉnh sửa, chẳng hạn như những hiện tượng hình ảnh hoặc thay đổi dữ liệu trong một tệp. Nhưng Trí tuệ Nhân tạo có thể học cách loại bỏ những tín hiệu đó, tạo ra một trò chơi mèo với chuột giữa những người tạo giả và những người phát hiện giả mạo.
“Tầm quan trọng của việc biết, xác minh và tin tưởng vào nguồn thông tin của chúng ta ngày càng tăng, và công nghệ đóng một vai trò lớn trong việc hỗ trợ đạt được điều đó,” người phát ngôn nói.
Việc nhận biết hình ảnh được chỉnh sửa bằng Trí tuệ Nhân tạo đã trở thành một lĩnh vực quan trọng trong nghiên cứu học, công nghiệp và chính phủ. Các công ty công nghệ lớn như Facebook, lo lắng về việc lan truyền thông tin sai lệch, đang hỗ trợ các nỗ lực tự động hóa việc xác định video deepfake.
Zhao tại Đại học Washington dự định nghiên cứu cách nhận diện tự động hình ảnh vệ tinh deepfake. Anh nói rằng nghiên cứu cách cảnh quan thay đổi theo thời gian có thể giúp nhận biết các đặc điểm nghi ngờ. “Mẫu không gian thời gian sẽ thực sự quan trọng,” anh nói.
Tuy nhiên, Zhao lưu ý rằng ngay cả khi chính phủ có công nghệ cần thiết để nhận diện những bức ảnh giả mạo như vậy, công dân có thể không nhận biết được. “Nếu có một hình ảnh vệ tinh được lan truyền rộng rãi trên mạng xã hội, điều đó có thể là một vấn đề,” anh nói.
More Great MYTOUR Stories
- 📩 Những thông tin mới nhất về công nghệ, khoa học và nhiều hơn nữa: Nhận những bản tin của chúng tôi!
- Mọi điều bạn đã nghe về Mục 230 đều sai
- PS5 bắt đầu trông như cuộc cách mạng mà nó hứa hẹn
- Tại sao không biến sân bay thành các trang trại năng lượng mặt trời khổng lồ?
- Trường hợp cho việc để mọi người làm việc từ xa mãi mãi
- Google FLoC là gì và nó ảnh hưởng đến quyền riêng tư của bạn như thế nào?
- 👁️ Khám phá Trí tuệ Nhân tạo như chưa bao giờ có với cơ sở dữ liệu mới của chúng tôi
- 🎮 MYTOUR Games: Nhận những mẹo mới nhất, đánh giá và nhiều hơn nữa
- 🎧 Âm thanh không nghe đúng? Kiểm tra những tai nghe không dây, loa thanh và loa Bluetooth yêu thích của chúng tôi
