From: Verge；编译: Shelly

还记得特朗普的竞选推特不断被官方标为虚假信息吗？现在，同行Facebook开始应用AI对内容进行排序审核了。

Facebook一直明确表示，希望人工智能在其官方平台上更多地参与内容审核。11月中旬，Facebook官宣：将让机器学习内容审核。这意味着，Facebook朝着它的AI目标又迈出了新的一步。

目前，在Facebook上，从垃圾邮件、仇恨言论到“煽动暴力”的内容，都会受到人工或机器的自动筛查，机器学习过滤器会把它们标记为违反平台规则的帖子。

对于一些非常明确的有害或不实信息，系统会直接删帖或封号，另一些处于灰色地带的帖子则会自动排入序列，等待人工审核。

值得一提的是，“懂王”川普在其总统在职期间享有的“社交媒体言论豁免权”预计在明年1月就会“如期”结束，当机器审核的力度加大，他会被脸书和推特封号吗？

美国女主播@morningmika就曾在推特上炮轰为什么特朗普的账号还没有被封。“我会联系推特的负责人，让他们知道，特朗普总统每天都在违反他们的政策和规定！”她说。

人工审核曾受质疑

机器审核又有哪般新标准？

Facebook在全球范围内雇用了约15,000名审核员，过去因这些审核员没有得到足够的保障和支持，Facebook一度受到非议。批评和质疑声认为，这些员工的主要工作是对被机器自动标记的帖子进行排序，考量其是否违反平台的各项政策，并做出弃留决定，因此，他们有可能受到精神创伤。

以下是其中一项指责Facebook给审核员施加精神压力的批评：

“Utley退伍后，他当了Facebook的夜班审核员，负责清除用户每天发布的最糟糕的内容：仇恨、谋杀言论和儿童色情内容。Utley所在的Facebook内容审核小组位于佛罗里达州坦帕市，由一家名为Cognizant的专业服务供应商运营。该公司约800名员工面临来自老板的无休止压力，被不断要求更好地执行该社交网络的社区标准，而这些标准几乎每天都会更新，这让承包商的员工永远处于不确定状态。”

过去，审核员或多或少是按时间顺序审查帖子，即按照帖子被标记的顺序处理之。而Facebook的现行审核方式是利用机器学习优先审查最重要的帖子。

Facebook表示，未来将使用多种机器学习算法对帖子进行排序，优先级排序的标准是：传播度、严重性以及违反规则的可能性。

Facebook此番内容审核新举是值得肯定的。单拿特朗普来说，为了跟上他一人一天几十条推特的步伐，审核工作的不易就已经可见一斑了。万事皆有两面，从好的方面来说，特朗普任职四年的贡献也许还包括推动社交媒体改革，因为社交平台在一定程度上意识到了内容审核机制亟待优化的必要。

不过，Facebook这些内容审核的标准如何加权尚不清楚，但其表示，首要是处理最具破坏性的帖子。帖子传播得越广、被分享和查看的次数越多，则被处理的速度就越快。Facebook称，它将把涉及现实危害的帖子列为“最需要重视的帖子”，譬如，涉及恐怖主义、剥削儿童或自残的内容会被优先处理。相应的，类似垃圾邮件之类的烦人但不伤人的帖子会被排在不那么重要的位置。

参与内容审核时，AI在想什么？

Facebook社区信用团队的产品经理Ryan Barnes在新闻发布会上说：“所有违反内容的行为仍将受到实质性的人工审查，与以往不同的是，我们将使用AI系统更好地确定该过程的优先级，即尽量确保审核人员不收到伤害。”

Facebook公开了部分机器学习过滤器的信息。人们可以发现，Facebook所用的过滤系统里有一个名为“WPIE”的模型，采用了Facebook所谓的“整体”方法来评估内容，做到了对整个帖子的完整性嵌入。

这意味着，算法会试图分析文案、图像、标题、海报等信息结合起来传达的意思，将帖子里的各种元素整合起来加以预判。

比如说，如果帖子的文案大意为，他们想要卖整批的“特推美味 (special treats) ”，图片是一张看起来像是烘焙食品的图片，那么AI会思考：发帖人是在谈论食品吗？如果标题中还使用了某些单词，例如“有效 (potent) ”，那再加上之前对文案和配图的分析，AI就有可能扭转之前的判断。

AI或许没办法完美

但人可以促成美好的改变

在Facebook早年使用AI审核的试水中，曾经有批评者指出，AI没办法hold住大量的在线交流，在动态的交流信息中，AI是没有判断能力的。尤其是在出现“霸凌”和“骚扰”等相关信息时，AI可能几乎不知道自己在看什么。

Facebook交互完整性团队的软件工程师Chris Palow同意AI有局限性，但他也强调，在删除无用信息、有害信息方面，AI的确可以发挥作用。

“我们的系统旨在使AI和人工审核相结合，减少总体错误数，”Palow说，“人工智能永远不会是完美的。”

当被问及AI预判帖子信息的准确率，Palow没有给出直接答案，但指出：只有当机器审核的准确率和人工审核完全一致时，他们才会完全舍弃人工审核。“毕竟，完全交由机器操作的门槛很高。” Palow说。

扫码观看！

本周上新！

 征稿啦！

想让你的工作获得更多关注？

想与更多大佬进行学术交流？

公众号后台回复【投稿】
一键获取投稿方式！

关于我“门”

    

扫二维码｜关注我们

让创新获得认可！

微信号：thejiangmen