Facebook Loại Bỏ Tài Khoản Sử Dụng Hình Ảnh Hồ Sơ Tạo Bởi Trí Tuệ Nhân Tạo

Facebook vào thứ Sáu đã loại bỏ những gì được gọi là một mạng lưới toàn cầu gồm hơn 900 tài khoản, trang và nhóm trên nền tảng của mình và Instagram được cho là sử dụng các hành vi đánh lừa để đẩy các cốt truyện ủng hộ ông Trump đến khoảng 55 triệu người dùng. Mạng lưới này sử dụng các tài khoản giả mạo, tăng cường nhân tạo và đặc biệt là hình ảnh hồ sơ của những khuôn mặt giả được tạo ra bằng trí tuệ nhân tạo để lan truyền nội dung chia rẽ, chủ yếu là thuộc phe cánh hữu, trên khắp web, bao gồm trên Twitter và YouTube.

Điều này đại diện cho một sự phát triển mới đáng lo ngại trong cuộc chiến thông tin, khi nó dường như là việc triển khai quy mô lớn đầu tiên của hình ảnh được tạo bởi trí tuệ nhân tạo trong một mạng xã hội. Trong một báo cáo về chiến dịch ảnh hưởng, các nhà nghiên cứu từ các nhóm thông tin sai lệch Graphika và DFRLab lưu ý rằng đây là lần đầu tiên họ thấy công nghệ này được sử dụng để hỗ trợ một chiến dịch truyền thông xã hội không chân thực.

Các hình ảnh được sử dụng để tăng tính chân thực của một số trong số 610 tài khoản Facebook, 156 nhóm, 89 trang và 72 tài khoản Instagram liên quan đến “The BL,” một trang tin tức kỹ thuật số mô tả bản thân mình là một “suối nước non tươi mát, làm ẩm lòng người đọc” trên Facebook trước khi bị loại bỏ. Cuộc điều tra của Facebook liên kết The BL với The Epoch Times, một tổ chức truyền thông cánh hữu có liên quan đến nhóm tâm linh Trung Quốc Falun Gong và có lịch sử ủng hộ quyết liệt cho Donald Trump.

Dường như là một tổ chức truyền thông có trụ sở tại Mỹ, các trang mạng của mạng The BL được điều hành bởi người dùng tại Việt Nam và Mỹ, theo Facebook, họ đã sử dụng rộng rãi các tài khoản giả để tránh bị phát hiện và đưa lưu lượng truy cập vào các trang web của riêng họ. Một báo cáo của các nhà nghiên cứu từ Graphika và DFRLab phát hiện rằng đa số các tài khoản giả của mạng The BL được sử dụng để duy trì một cụm hơn 80 nhóm và trang quảng bá Tổng thống Trump. Các tài khoản đóng vai trò quản trị cho những trang này - với tên gọi như “Mỹ Cần Tổng Thống Trump,” “Trump Cho Tổng Thống Mỹ,” và “CHÚNG TA ỦNG HỘ TRUMP & PENCE!” - chủ yếu là giả và được tạo ra tại Việt Nam.

“Các tài khoản giả được phục vụ như những người quản trị của các nhóm Facebook, tăng số lượng thành viên của những nhóm đó, thích các bài viết trên các Trang và đăng lượng lớn nội dung từ tài sản liên quan đến TheBL,” báo cáo ghi chú. “Cấu trúc này tạo thành một nhà máy tăng cường nhân tạo quy mô lớn mà chức năng quan sát duy nhất của nó là thúc đẩy nội dung từ TheBL và, trong một mức độ nhỏ hơn, từ Epoch Times.”

Nhiều tài khoản này sử dụng hình ảnh hồ sơ mà các nhà nghiên cứu cho biết dường như đã được tạo ra bằng mạng thần kinh được huấn luyện trên hình ảnh của khuôn mặt người thật để tạo ra hình ảnh của những người không tồn tại thực sự. Các nhà nghiên cứu từ Graphika và DFRLab tìm thấy 18 hình ảnh của khuôn mặt trong hình ảnh hồ sơ được sử dụng bởi mạng The BL mà họ nói có lẽ đã được tạo ra bằng các mạng tạo đối lập sinh sản.

Mặc dù công nghệ có khả năng tạo ra những khuôn mặt giả khá tạm chấp nhận, nhưng nó có một vài dấu hiệu rõ ràng đã gây sự chú ý của các nhà nghiên cứu. Nó hoạt động chủ yếu bằng cách bắt chước các mẫu hình ảnh, nhưng không hiểu biết về cấu trúc cơ thể người, và gặp khó khăn với các phần nền và các đặc điểm đối xứng, như kính hoặc bông tai.

Hình ảnh trên, từ báo cáo của Graphika, được lấy từ hình ảnh hồ sơ của “Alfonzo Macias,” một quản trị viên của một trong những nhóm trong mạng The BL. “Lưu ý sự không đối xứng trong kính và cũng như phần nền không được xác định rõ ràng,” báo cáo cho biết. “Các tác giả kiểm tra hình ảnh này với các chuyên gia tại Đại học Federico II của Naples, họ đánh giá rằng hình ảnh này được tạo ra bằng GAN với độ chắc chắn là 99,9%.”

Các Câu Chuyện Tuyệt Vời Khác Trên MYTOUR

• Cựu chiến binh, trang web hẹn hò, và cuộc gọi từ địa ngục
• Chỗ để thở: Hành trình của tôi để làm sạch không khí ô nhiễm trong nhà
• Tại sao “nữ hoàng của các robot tệ hại” từ bỏ ngôi vị của mình
• Amazon, Google, Microsoft - ai có đám mây xanh nhất?
• Mọi thứ bạn cần biết về những người ảnh hưởng
• 👁 Trí tuệ nhân tạo liệu có sớm "đạt đến tường ngăn" không? Ngoài ra, tin tức mới nhất về trí tuệ nhân tạo
• 🏃🏽‍♀️ Muốn có các công cụ tốt nhất để có sức khỏe? Kiểm tra lựa chọn của đội ngũ Gear của chúng tôi cho các bộ theo dõi sức khỏe tốt nhất, trang thiết bị chạy bộ (bao gồm giày và tất), và tai nghe tốt nhất.