当《使命召唤：黑色行动6》发布时，该监管系统将扩展到更多语言。
科技资讯网站TechSpot今日报道，动视暴雪公司表示，自今年年初以来，《使命召唤》游戏中的有毒语音聊天现象减少了43%。这一成果归功于最近引入的基于人工智能的监管系统，公司因此决定在10月25日推出的《使命召唤：黑色行动6》中进一步扩大其应用。
去年11月，《使命召唤：现代战争III》发布时，动视暴雪公司推出了名为ToxMod的监管系统。ToxMod网站显示，该系统通过分析游戏内语音聊天的文字记录，根据多个因素检测关键词。
为了区分正常的游戏交流和恶意骚扰，ToxMod会监控关键词和玩家对评论的反应，识别玩家的情绪，并理解游戏的行为准则。
此外，系统还会估算说话者和接收者的年龄和性别，以便更好地理解对话的上下文。
ToxMod无法自行禁止玩家，但它可以迅速标记违规行为，供人工监管者审查。动视暴雪公司随后决定是否警告或静音玩家，只有在多次违规后才实施禁令。
自2024年6月公司实施改进措施以来，《使命召唤：现代战争III》和《使命召唤：战区》中的重复违规者数量减少了67%。仅在7月，80%违反语音聊天规则的玩家没有再次违规。
目前，除了亚洲地区外，ToxMod系统已在全球范围内得到应用，并且《使命召唤》使用该系统来监管英语、西班牙语和葡萄牙语的语音聊天。随着《黑色行动6》的发布，动视暴雪公司将增加对法语和德语的支持。
与此同时，基于文本的聊天和用户名监管已从8月的14种语言扩展到20种语言。自2019年首款《现代战争》重启游戏发布以来，Community Sift一直是《使命召唤》的文本监管合作伙伴，自《现代战争III》11月发布以来，已屏蔽了4500万条消息。
使用人工智能来监管玩家行为比将其用于游戏内资产的争议要小得多。去年年末，《使命召唤：现代战争III》的内容皮肤中出现了由人工智能生成的艺术作品。在游戏行业历史上的大规模裁员期间，一些人担心出版商会试图用人工智能模型取代艺术家。