Activision Blizzard công bố mô hình AI kiểm duyệt, làm sạch môi trường game Call of Duty: Modern Warfare III

Công nghệ AI đang tạo ra những tác động tích cực trong lĩnh vực trò chơi điện tử, đặc biệt là trong việc kiểm duyệt trò chuyện bằng giọng nói. Activision Blizzard, nhà phát hành của Call of Duty, đã báo cáo rằng kể từ đầu năm nay, tần suất tiếp xúc với các cuộc trò chuyện độc hại trong trò chơi đã giảm 43%. Thành công này được ghi nhận nhờ vào việc sử dụng hệ thống kiểm duyệt AI có tên ToxMod.

ToxMod lần đầu được Activision triển khai vào tháng 11 năm ngoái trong Call of Duty: Modern Warfare III. Hệ thống này sử dụng AI để phân tích các bản ghi văn bản từ cuộc trò chuyện bằng giọng nói, phát hiện từ khóa dựa trên cảm xúc, ngữ cảnh và quy tắc ứng xử của trò chơi. Điều này giúp hệ thống phân biệt được giữa lời nói tục tĩu vô hại và hành vi quấy rối nghiêm trọng. ToxMod thậm chí có khả năng ước tính tuổi và giới tính của người nói và người nhận để hiểu rõ hơn về bối cảnh cuộc trò chuyện.

Mặc dù ToxMod không thể trực tiếp cấm người chơi, nhưng nó có thể nhanh chóng báo cáo các vi phạm để người kiểm duyệt xem xét. Quyết định cảnh báo hay cấm người chơi chỉ được đưa ra sau khi phát hiện nhiều lần vi phạm. Kể từ tháng 6 năm 2024, số lượng người tái phạm trong Modern Warfare III và Call of Duty: Warzone đã giảm 67%. Riêng trong tháng 7, 80% người vi phạm đã không tái phạm sau khi bị phát hiện.

ToxMod hiện đã hỗ trợ các khu vực ngoài Châu Á và kiểm duyệt trò chuyện bằng giọng nói bằng nhiều ngôn ngữ như tiếng Anh, tiếng Tây Ban Nha, và tiếng Bồ Đào Nha. Khi Call of Duty: Black Ops 6 ra mắt vào ngày 25 tháng 10, Activision sẽ mở rộng hỗ trợ thêm cho tiếng Pháp và tiếng Đức. Bên cạnh đó, hệ thống kiểm duyệt văn bản và tên người dùng của Call of Duty, thông qua đối tác Community Sift, đã mở rộng từ 14 lên 20 ngôn ngữ kể từ tháng 8.

Dù việc sử dụng AI để kiểm soát hành vi người chơi nhận được sự đồng tình, việc áp dụng công nghệ này vào các tài sản trong trò chơi lại gây ra nhiều tranh cãi hơn. Cuối năm ngoái, Activision đã giới thiệu nghệ thuật do AI tạo ra trong Call of Duty: Modern Warfare III, khiến nhiều người lo ngại rằng các nghệ sĩ có thể bị thay thế bởi công nghệ AI, đặc biệt trong bối cảnh ngành công nghiệp trò chơi điện tử đối mặt với làn sóng sa thải nhân sự.

Việc AI hỗ trợ quản lý nội dung và hành vi trong các trò chơi trực tuyến đang cho thấy hiệu quả rõ rệt, đồng thời mở ra nhiều tiềm năng mới cho ngành công nghiệp giải trí số.