Hiện nay, có nhiều bằng chứng cho thấy các tài khoản liên kết với chính phủ Trung Quốc đăng tải hình ảnh giả mạo được tạo ra bằng trí tuệ nhân tạo nhằm ảnh hưởng đến quá trình bầu cử.
Lần thứ hai chỉ trong hơn sáu tháng, Microsoft lại cảnh báo về việc Trung Quốc đang sử dụng trí tuệ nhân tạo (AI) để lan truyền thông tin sai lệch trong quá trình bầu cử tại Mỹ.
Công ty cũng nêu rõ rằng các nhóm được hậu thuẫn bởi chính phủ, đồng thời được ủng hộ từ Triều Tiên, cũng sẽ tập trung vào các cuộc bầu cử tại Hàn Quốc và Ấn Độ. Trước đó, trong cuộc bầu cử tổng thống ở Đài Loan vào tháng 1, các nhóm này đã triển khai một chiến dịch tương tự.
Báo cáo của Microsoft nhấn mạnh rằng Trung Quốc đã tiếp tục cải thiện nội dung tạo ra bằng trí tuệ nhân tạo, bao gồm video, meme, âm thanh và nhiều loại nội dung khác. Dù tác động của chúng có thể chưa lớn ở thời điểm hiện tại, nhưng có thể trở nên nguy hiểm hơn trong tương lai.
Microsoft cũng đã nhấn mạnh về một số nội dung giả mạo được tạo ra bằng trí tuệ nhân tạo, như các tuyên bố không chính xác về chính trị và các vấn đề khác. Điều này bao gồm cả việc đăng tải những video, meme và thông tin giả mạo để tạo ra sự xáo trộn trong dư luận và ảnh hưởng đến kết quả của cuộc bầu cử.
Việc sử dụng trí tuệ nhân tạo để tạo ra thông tin sai lệch là một thách thức lớn trong việc chống lại sự lan truyền tin tức giả mạo, đặc biệt là khi mọi người khó lòng phân biệt được thông tin thật và thông tin giả mạo, đặc biệt khi nó phù hợp với niềm tin và giá trị của họ.