Facebook一直明确表示，希望人工智能在其平台上处理更多的节制职责。今天，它宣布了朝着这个目标迈出的最新一步：让机器学习负责它的调节队列。

以下是在Facebook上适度的工作原理。被认为违反公司规定的帖子（包括垃圾邮件、仇恨言论和“美化暴力”的内容）会被用户或机器学习过滤器标记。一些非常明确的案例会被自动处理（例如，响应可能涉及删除帖子或阻止帐户），而其余的则会进入队列，由人工版主审阅。

Facebook在全球**了大约15000名这样的版主，过去一直被批评没有给予这些员工足够的支持，**他们的条件可能会导致创伤。他们的工作是对标记的职位进行分类，并决定这些职位是否违反公司的各项政策。

在过去，版主或多或少会按时间顺序对帖子进行评论，按照报道的顺序进行处理。现在，Facebook表示，它希望确保最重要的帖子首先被看到，并利用机器学习来提供帮助。在未来，各种机器学习算法的混合将被用来对这个队列进行排序，根据三个标准对帖子进行排序：病毒性、严重性和违反规则的可能性。

目前尚不清楚这些标准的权重，但Facebook表示，其目的是首先处理最具破坏性的帖子。因此，一个帖子的病毒性越强（被分享和看到的次数越多），它被处理的速度就越快。岗位的严肃性也是如此。Facebook说，它将涉及真实世界伤害的帖子列为最重要的。这可能意味着内容涉及恐怖主义、剥削儿童或自我伤害。同时，像垃圾邮件这样令人讨厌但又不伤人的帖子，被列为最不重要的评论。

Facebook社区诚信团队的产品经理Ryan Barnes在一次新闻发布会上对记者说：“所有违反内容的行为仍将得到一些实质性的人工审查，但我们将使用这个系统来更好地确定（这一过程）的优先级。”。

Facebook分享了一些关于机器学习过滤器如何分析过去帖子的细节。这些系统包括一个名为“WPIE”的模型，该模型代表“完整性嵌入”，并采用Facebook所称的“整体”方法来评估内容。

这意味着算**一致地判断任何给定帖子中的各种元素，试图找出图片、字幕、海报等一起显示的内容。如果有人说他们卖的是“整批”的“特殊食品”，并附有一张看起来像是烘焙食品的图片，他们是在说脆米饼还是可食食品？在标题中使用某些词（如“potency”）可能会使判断发生变化。

Facebook利用人工智能来调节其平台的做法过去曾受到审查，批评人士指出，人工智能缺乏人类判断大量在线交流背景的能力。尤其是像错误信息、欺凌和骚扰这样的话题，计算机几乎不可能知道它在看什么。

Facebook的Chris Palow是该公司交互完整性团队的一名软件工程师，他同意人工智能有其局限性，但他告诉记者，这项技术仍然可以在删除不需要的内容方面发挥作用。帕洛说：“这个系统是要把人工智能和人类评论员结合起来，以减少总的错误。”。“人工智能永远不会完美。”

当被问及该公司机器学习系统分类错误的帖子有多大比例时，帕洛没有给出直接的答案，但他指出，Facebook只允许自动系统在没有人监督的情况下工作，而这些系统的准确度和人的评论员一样。“自动化行动的门槛非常高，”他说。尽管如此，Facebook仍在稳步地将更多的人工智能加入到适度组合中。

更正：本文的早期版本错误地将Chris Palow的名字命名为Chris pallow。我们对这个错误感到遗憾。