一、引言

在游戏中，如何确保包括青少年在内的用户处于一个安全环境中，一直是玩家大量聚集的集“社交”、“娱乐”、“竞技”等于一身的多类型游戏产品的关注点。

成立于2016年的金山世游，先后在国内发行了《反恐行动》、《小米枪战》多款IP手游，坚持创造一个公平、文明、有序的游戏环境，让用户远离不良价值观。

过去，金山世游通过“屏蔽词库”来进行监测和治理不法行为。玩家也主动加入内容巡检队伍。如果看到一些不恰当、引起不适的内容，玩家可以在游戏中进行举报与投诉。金山世游收到投诉后，及时把违规内容处理掉。

游戏内外齐心协力，但受限于词库更新频率和网络上不断出现的新型聊天“语言”和“敏感词”，给主动监测治理提出更大挑战。

2021年，金山世游向聊天室内的违规语言发起了新一轮的监管总攻。这次，金山世游与网易易盾合作，在内容风控服务上获取定制的智能策略，基于自身的海量数据和全新需求，实现全产品服务和平台的内容安全保障。

如今，经过近一年的运营，游戏内违规内容处理更主动了，公司内容风控体系实现了全面提升。一个最直观的感受是，玩家投诉率直线下降，玩家好评度显著提升。

金山世游说：

我们更愿意把‘内容安全’当做企业的责任、使命和动力。我们相信，经过金山世游内部专业审核体系和易盾内容风控体系的双重加持，我们一定会在全面符合相关要求和标准的基础上，进一步探索更加适合自身的运营方式，为整个行业在内容风控体系中探索更多答案。

极度社交化的多人游戏炙手可热，在对话中促进了玩家沟通，给了玩家提供了一个表达自我的平台，而言语不当行为的增加也给游戏增加了合规风险。

近年来，国家相关主管部门相继出台《网络安全法》《未成年人保护法》《关于防止未成年人沉迷网络游戏通知》等诸多相关法规和政策，对行业发展进行进一步规范。

为游戏玩家提供在线内容风控，比以往任何时候都更加重要，利用人工智能的进步，游戏客户可以使用全新的“数字内容审核”解决方案来确保在线游戏的内容安全。

二、如何让聊天文本更安全？

金山世游集游戏研发、全球发行运营、游戏投资等业务于一体，从成立之初就确立了不断强化自研，成功推出了《反恐行动》、《三国战神》、《西游降魔篇3D》、《小米枪战》等自研产品，同时高效运营诸如《魔域手游》、《最终幻想：勇气启示录》、《风暴魔域2》等IP大作。

公司自研及运营游戏产品涵盖MMO、MOBA、FPS、卡牌、二次元、SLG、音舞等众多领域，业务范围辐射至海外多个国家，用户规模达到“现象级”增长。

不同类型的游戏产品吸引了多元化的玩家群体。这也使得用户数量、年龄层次、地区分布、文化水平等出现差异化，内容风控就显得格外重要，甚至可以说是游戏平台的“生命线”。

金山世游将内容风控视为"不可逾越的高压线"，作为一家有责任感的游戏企业，营造良好的内容生态，既是对自身产品负责、对广大玩家负责，也是对全社会负责，才能真正为玩家带来欢乐。

每个月，团队都会花费大量时间在游戏运营中，对内容数据进行处理与分析，反复检查相关数据，耗费的精力与返工的时间大大增加。

在选用易盾前，金山世游通过屏蔽词库来进行监测和治理，但受限于词库更新频率和网络上不断出现的新型聊天“语言”和“敏感词”，给主动监测治理带来很大难度。玩家曾出现利用“火星文”“暗语”“代号”等发布信息，给内容监测鉴别工作带来较大难题。

图 | 聊天室等社交方式为游戏业务打开增长空间

三、给用户提供一种更快、更安全的选择

“经过对几家头部公司进行实际调研和产品功能对比，以及相关机构口碑推荐，我们通过实测和自身业务需求匹配，最后选择了和易盾进行合作。”金山世游表示。

在合作中，金山游戏全部游戏产品均使用了易盾数字内容风控体系。在易盾数字内容风控体系加持下，这些不同类型的游戏在内容治理方面都取得了明显成效。

以公司老牌的自研FPS游戏《反恐行动》为例，由于枪战题材和高竞技属性，玩家沟通意愿热烈且沟通频率高。这就对游戏内部的内容安全监控系统提出了很高的要求。

在易盾数字内容风控体系的助力下，内容风控系统监测范围大幅提升，涵盖涉政暴恐、色情、广告、辱骂、注水、迷信、低俗、诈骗、赌博、火星文、擦边球等上百类数据。系统处置速度大大提升，系统内监测库保持实施更新，也确保新近违规内容得以第一时间得到监控和处置。

四、自建审核“铁军”，用好AI内容风控工具

公司在技术和执行上始终坚持双高标杆，即高标准、高要求，在按照相关主管部门相关要求的基础上，持续升级内容风控体系。

在内容审核遍地开花的时代，金山世游设立了专门的审核团队，打造审核“铁军团”，成员来自于文字编辑、互联网出版、法律法规等业界，从内容、文化、市场等不同层面对游戏进行全方位的审核和跟踪。

此外，金山世游在内部各产品均设置了专人专岗，负责监控产品的内容风险点，不断完善和更新内容风控资料库。为了在根源上杜绝游戏立意环节内出现违法违规内容，公司还定期对涉及游戏内容及社会价值导向的相关部门和人员进行定期培训。

培训内容包括如何杜绝出现拜金主义、封建迷信、“娘炮”、“耽美”等不良文化，以及坚决抵制有错误价值取向、淫秽色情、血腥恐怖等内容。

通常，这支 “铁军团”无处不在，从游戏产品的选题策划、立项，到研发、测试，再到最终出版以及后续运营，全方位参与其中。

“我们通过多种方法进一步提高员工的内容合规素养，倾力打造一支有文化、高素质的团队，增强把关意识，提高把关能力。”金山世游分享道：

AI成为审核工具需要人去推动和运用，如何发挥出智能内容审核系统的潜力，也是我们风控“铁军”的职责。下一步，金山世游希望AI智能可以提供更强大的支持，加上人工干预，让内容风控更具灵活性与创新性。