Activision Blizzard đã công bố mô hình AI nhằm kiểm duyệt và cải thiện môi trường trong game Call of Duty: Modern Warfare III.

Sau khi áp dụng công nghệ AI, nhà phát hành Call of Duty đã báo cáo rằng kể từ đầu năm nay, tần suất tiếp xúc với các cuộc trò chuyện độc hại trong trò chơi đã giảm xuống 43%.

Công nghệ AI đang mang lại những tác động tích cực trong lĩnh vực trò chơi điện tử, đặc biệt trong việc kiểm duyệt các cuộc trò chuyện bằng giọng nói. Activision Blizzard đã thông báo rằng kể từ đầu năm nay, tần suất tiếp xúc với các cuộc trò chuyện độc hại trong game đã giảm 43%. Thành công này nhờ vào việc áp dụng hệ thống kiểm duyệt AI mang tên ToxMod.

Hệ thống ToxMod được Activision lần đầu tiên triển khai vào tháng 11 năm ngoái trong Call of Duty: Modern Warfare III. Hệ thống này sử dụng AI để phân tích các bản ghi từ cuộc trò chuyện bằng giọng nói, phát hiện các từ khóa dựa trên cảm xúc, ngữ cảnh và quy tắc ứng xử của trò chơi. Nhờ đó, hệ thống có khả năng phân biệt giữa những lời nói tục tĩu vô hại và các hành vi quấy rối nghiêm trọng. ToxMod còn có thể ước lượng tuổi và giới tính của người nói cũng như người nghe để hiểu rõ hơn về bối cảnh cuộc trò chuyện.

Mặc dù ToxMod không có khả năng trực tiếp cấm người chơi, nhưng nó có thể nhanh chóng báo cáo các vi phạm để người kiểm duyệt xem xét. Quyết định cảnh báo hoặc cấm người chơi chỉ được thực hiện sau khi phát hiện nhiều lần vi phạm. Kể từ tháng 6 năm 2024, số lượng người tái phạm trong Modern Warfare III và Call of Duty: Warzone đã giảm 67%. Trong tháng 7, có tới 80% người vi phạm không tái phạm sau khi bị phát hiện.

ToxMod hiện đã hỗ trợ các khu vực ngoài Châu Á và có khả năng kiểm duyệt trò chuyện bằng giọng nói bằng nhiều ngôn ngữ như tiếng Anh, tiếng Tây Ban Nha, và tiếng Bồ Đào Nha. Khi Call of Duty: Black Ops 6 ra mắt vào ngày 25 tháng 10, Activision sẽ mở rộng hỗ trợ thêm cho tiếng Pháp và tiếng Đức. Ngoài ra, hệ thống kiểm duyệt văn bản và tên người dùng của Call of Duty, thông qua đối tác Community Sift, đã mở rộng từ 14 lên 20 ngôn ngữ kể từ tháng 8.

Dù việc áp dụng AI để kiểm soát hành vi của người chơi được nhiều người ủng hộ, việc ứng dụng công nghệ này vào các tài sản trong trò chơi lại gây ra nhiều tranh cãi hơn. Cuối năm ngoái, Activision đã giới thiệu nghệ thuật do AI tạo ra trong Call of Duty: Modern Warfare III, khiến nhiều người lo ngại rằng các nghệ sĩ có thể bị thay thế bởi công nghệ AI, đặc biệt trong bối cảnh ngành công nghiệp trò chơi điện tử đang đối mặt với làn sóng sa thải nhân sự.

AI đang chứng tỏ hiệu quả rõ rệt trong việc quản lý nội dung và hành vi trong các trò chơi trực tuyến, đồng thời mở ra nhiều cơ hội mới cho ngành công nghiệp giải trí số.