Facebook现在有很多问题，但假新闻肯定不会很快消失。随着该公司的用户群扩大到包括世界四分之一以上的人口，它（可以理解）很难控制他们发布和分享的内容。对于Facebook来说，不受欢迎的内容可以是从轻微的**到严重的暴力，但事实证明，对该公司来说最敏感和最具破坏性的是恶作剧和错误信息——特别是当它有政治倾向的时候。

那么Facebook将对此做些什么呢？目前，该公司似乎没有明确的战略。相反，这是在向墙扔很多东西，看看什么是有效的。它**了更多的人力版主（截至今年2月，大约有7500名）；它在网站上为用户提供更多关于新闻来源的信息；在最近的一次采访中，马克·扎克伯格（MarkZuckerberg）建议，该公司可能会成立某种独立机构，对什么内容是犹太洁食做出规定(这可能被视为民主，放弃责任，或者承认Facebook已经超出了它的深度，这取决于你的观点。）但专家们说Facebook需要非常小心的一件事是将整个工作交给AI。

到目前为止，该公司似乎只是在试验这种方法。扎克伯格在接受《****》关于剑桥Analytica丑闻的采访时透露，在去年阿拉巴马州的特别选举中，该公司“部署了一些新的人工智能工具来识别假账户和假新闻”。他指出，这些账户是马其顿账户（假新闻营利业务的既定中心），该公司后来澄清说，它使用了机器学习来发现“可疑行为，而不评估内容本身。”

这是明智的，因为当涉及假新闻时，人工智能无法胜任。

用人工智能构建自动假新闻过滤器的挑战很多。从技术角度来看，人工智能在很多方面都失败了，因为它无法像人类那样理解人类的写作。它可以拉出某些事实并进行粗略的情感分析（猜测一条内容是否是基于关键词的“快乐”或“愤怒”），但它不能理解音调的细微之处，不能考虑文化背景，或者给某人打电话以证实信息。即使它能做到这一切，消除最明显的错误信息和恶作剧，它最终也会遇到边缘案例，甚至让人困惑。如果左派和右派不能就什么是“假新闻”和什么不是“假新闻”达成一致，我们就无法教机器为我们做出判断。

在过去，利用人工智能处理假新闻的努力很快遇到了问题，就像去年举行的“假新闻挑战赛”——一场众包机器学习解决方案的竞赛。帮助组织这次挑战的卡内基梅隆大学的Dean Pomerleau告诉我们，他和他的团队很快意识到人工智能无法独自解决这一问题。

“实际上，我们一开始就有一个更雄心勃勃的目标，那就是创建一个能够回答‘这是假新闻，是还是不是？’这个问题的系统。我们很快意识到机器学习根本无法胜任这项任务。”

Pomerleau强调理解是首要问题，为了理解为什么语言会如此微妙，特别是在网上，我们可以参考Tide pods的例子。正如康奈尔大学教授詹姆斯·格里曼（James Grimmelmann）在最近一篇关于虚假新闻和平台节制的文章中所解释的那样，互联网对反讽的接受使得判断诚意和意图变得极其困难。今年1月，Facebook和YouTube试图删除Tide Pod Challenge视频时发现了这一点。

正如Grimmelmann解释的那样，在决定删除哪些视频时，这些公司将面临两难境地。”很容易找到人们举起潮汐豆荚的视频，同情地注意到它们看起来有多美味，然后做了一个关于不吃它们的手指摇摆的演讲，因为它们很危险，”他说这些是真诚的反吃豆荚的公共服务公告吗？或者他们只是表面上宣称谴责豆荚饮食，以此来掀起人们对豆荚饮食的兴趣？两者同时出现？”

Grimmelmann将这种效果称为“模仿的kayfabe”，借用了专业摔跤术语，表示观众和摔跤手自愿停止不相信。他还说，这种意义上的不透明性不仅限于模因文化，而且已经被政治党派所接受，他们通常负责**和分享假新闻。Grimmelmann说，Pizzagate就是一个完美的例子，因为它“同时是一个真正的阴谋论，一个阴谋论的欢乐伪装，一个关于阴谋论的贬损模因。”

因此，如果Facebook在2016年选举期间选择屏蔽任何pizzagate文章，他们可能不仅会受到审查制度的投诉，还会受到**，认为这些故事“只是一个笑话”。极端分子经常利用这种模糊性，新纳粹网站《每日风暴》的泄密风格指南就是最好的证明。创始人安德鲁·安格林（Andrew Anglin）建议未来的作家们“没有教条的人不应该知道我们是不是在开玩笑”，然后才明确表示他们不是：“这显然是一个策略，我确实想给kikes加油。但这不在这里，也不在那里。”

考虑到这种复杂性，毫不奇怪，波默劳的假新闻挑战最终要求团队完成一项更简单的任务：**一种算法，可以简单地发现涉及相同主题的文章。结果证明他们非常擅长的事情。

有了这个工具，人类可以将一个故事标记为假新闻（例如，声称某位名人已经去世），然后算法将删除任何重复谎言的报道。”我们与现实生活中的事实核查人员交谈，意识到他们将在相当长的一段时间内处于循环之中，”波默劳说因此，我们在机器学习社区所能做的最好的事情就是帮助他们完成他们的工作。”

这似乎是Facebook的首选方法。例如，在今年的意大利选举中，该公司聘请了独立的事实核查人员来标记虚假新闻和恶作剧。有问题的链接没有被删除，但当被用户共享时，他们被贴上了“第三方事实核查员有争议”的标签。不幸的是，即使这种方法也存在问题，《哥伦比亚新闻评论》最近的一份报告强调了事实核查员对Facebook的诸多不满。参与调查的记者表示，他们常常不清楚为什么Facebook的算法让他们检查某些报道，而那些以散布谎言和阴谋论而闻名的网站（如InfoWars）却从未被检查过。

然而，在这一切中，算法无疑扮演着一个角色。虽然人工智能在消除假新闻方面没有任何繁重的工作，但它可以像过滤收件箱中的垃圾邮件一样过滤假新闻。例如，任何拼写和语法错误的东西都可以删掉；或者是依靠模仿合法渠道来吸引读者的网站。正如Facebook在阿拉巴马州特别选举期间针对“试图传播虚假新闻”的马其顿账户所显示的那样，当虚假新闻来自已知的麻烦地点时，它相对容易成为攻击目标。

不过，专家表示，这是人工智能目前能力的极限。”康奈尔理工学院信息科学副教授莫尔·纳曼（Mor Naaman）告诉《边缘》杂志说：“这种打鼹鼠的方式可能有助于从第比利斯过滤出快速致富的青少年，但不太可能影响像信息战这样持续但大规模的犯罪行为。”。他补充说，即使这些更简单的过滤器也会产生问题。”Naaman说：“分类通常基于语言模式和其他简单信号，这可能会“抓住”诚实的独立和本地出版商以及虚假新闻和错误信息的生产者。”。

即使在这里，Facebook也面临着一个潜在的困境。虽然为了避免审查的指控，社交网络应该公开其算法用于发现假新闻的标准，但如果过于开放，人们可以利用其过滤器与系统博弈。

对于纽约大学法律系的一名教师Amanda Levendowski来说，这是一个她称之为“山谷谬论”的例子。在谈到Facebook的人工智能节制时，她认为这是一个常见的错误，“公司开始说，‘我们有问题，我们必须做些什么，这是些什么，所以我们必须做些什么，“没有仔细考虑这是否会产生新的或不同的问题。”Levendowski补充说，尽管存在这些问题，科技公司仍有很多理由继续追求AI节制，从“改善用户体验到减轻法律责任风险”

这些对扎克伯格来说无疑是诱惑，但即便如此，似乎过于依赖人工智能来解决其节制问题是不明智的。而不是他下周想向国会解释的事情。