能识别喷子的AI在CS：GO里封禁了两万多名玩家

仿生人也会***吗？

以喷人为首的不良行为是目前竞技游戏所面临的最大问题之一，玩家们想必都有这样的共鸣，平台方的体验则更为深刻。现在，他们选择用AI处理这个问题。

FACEIT是一个以“游戏环境好”为招牌的国外竞技平台，一直以来苦于如何净化游戏环境——无脑喷，种族歧视，有害信息……任何一类不良讯息的出现都足矣毁掉整局游戏。

和大部分平台一样，FACEIT当时采用的过滤方式是举报后人工审核和关键词监测等方式，但前者耗时太长了，后者则不够灵活，难以跟上时代的脚步——喷人文化瞬息万变，今天还是正常的单词，可能明天就变成侮辱性语句了。

于是FACEIT平台最终得出结论：要进行长源投资，构建一个类似于管理员的AI——它将取代人类，事无巨细的观察每局游戏，逮出喷子。于是在Google Cloud和Jigsaw两个团队的帮助下，他们成功构建出这样的AI——Minerva。

训练AI Minerva的过程整体来说还是比较朴实，人类命令Minerva学习了大量的喷子语录。于是在游戏过程中，Minerva将识别每条玩家消息，根据自己的脏话库给消息打分，越像侮辱性语句的，分就越高，高于0.7的话则被标记为有害信息。

机器人提示：别喷了！

除了口头消息之外，FACEIT还计划结合视频，语音聊天和游戏内事件等不同数据源，来评估一些话语之外的不良行为。如果发现不良信息将会很快做出警告和惩罚。

在前期测试过程中，Minerva被应用到了《CS：GO》里——这是公认的重灾区之一。好消息是，在投入使用的头一个半月内，Minerva已经有了显著成果：有害消息从两百多万骤减至一百八十万，少了20%。根据FACEIT的数据，Minerva手起刀落， ban了共计2万多名玩家。

FACEIT还声称，Minerva可以区分玩笑话和真实的喷人。虽说如此，想把AI锻炼成能准确识别出人类的脏话，实际上还是个挺耐人寻味的问题。

我们都知道，在如今的网络环境内，脏话早已脱离了“三字经”类传统句式，升华成一段更加旖旎、更加富含剧情因素的侮辱性台词。人类修炼多年的话里藏刀究竟能否被AI征服，还需时间来证明。

不过对我来说，比较期待的则是Ai在另一个方向上的应用：既然已经有能识别脏话的Ai诞生，以后会不会有自动回喷的智能机器人出现呢……

机器人提示：别喷了！

除了口头消息之外，FACEIT还计划结合视频，语音聊天和游戏内事件等不同数据源，来评估一些话语之外的不良行为。如果发现不良信息将会很快做出警告和惩罚。

在前期测试过程中，Minerva被应用到了《CS：GO》里——这是公认的重灾区之一。好消息是，在投入使用的头一个半月内，Minerva已经有了显著成果：有害消息从两百多万骤减至一百八十万，少了20%。根据FACEIT的数据，Minerva手起刀落， ban了共计2万多名玩家。

FACEIT还声称，Minerva可以区分玩笑话和真实的喷人。虽说如此，想把AI锻炼成能准确识别出人类的脏话，实际上还是个挺耐人寻味的问题。

我们都知道，在如今的网络环境内，脏话早已脱离了“三字经”类传统句式，升华成一段更加旖旎、更加富含剧情因素的侮辱性台词。人类修炼多年的话里藏刀究竟能否被AI征服，还需时间来证明。

不过对我来说，比较期待的则是Ai在另一个方向上的应用：既然已经有能识别脏话的Ai诞生，以后会不会有自动回喷的智能机器人出现呢……