Facebook宣布了它的第一个Deepfake检测挑战赛的结果，这是一个寻找能够识别人工智能操控视频的算法的公开竞赛。研究结果虽然有希望，但显示，在自动化系统能够可靠地发现虚假内容之前，仍有大量工作要做，研究人员将这一问题描述为“未解决的问题”

Facebook表示，这次比赛中获胜的算法能够发现“具有挑战性的真实世界的例子”，其平均准确率为65.18%。这还不错，但这不是你想要的任何自动化系统的命中率。

事实证明，深度假货对社交媒体的威胁有些夸张。尽管这项技术引发了许多关于可靠视频证据被侵蚀的争论，但迄今为止，深度伪造的政治影响微乎其微。取而代之的是，更直接的危害是非色情内容的产生，这类内容更容易被社交媒体平台识别和删除。

Mike Schroepfer，Facebook’他在一次记者电话采访中说，他对这次挑战的结果感到高兴，他说，这将为研究人员创造一个基准，并指导他们今后的工作。“老实说，这次比赛比我想象的要成功得多，” 他说。

约2114名参加者向比赛提交了35000多种检测算法。他们接受了测试，以确定大约10万个短片的数据集中的“深度假视频”。Facebook**了3000多名演员创作这些片段，他们在自然环境中进行对话。一些剪辑是通过人工智能被其他演员的脸粘贴在他们的视频。

研究人员被允许使用这些数据来训练他们的算法，当对这些数据进行测试时，他们的准确率高达82.56%。然而，当同样的算法在一个由看不见的镜头组成的“黑盒子”数据集上进行测试时，它们的表现要差得多，最佳评分模型的准确率达到65.18%。这表明在野外发现假货是一个非常具有挑战性的问题。

施罗普费尔说，Facebook目前正在开发自己的深度假检测技术，与这一竞争对手分开。他说：“我们已经在生产中采用了防伪技术，我们将在这种背景下加以改进。”。该公司今年早些时候宣布禁止深度造假，但批评人士指出，造谣的更大威胁来自所谓的“浅蛋糕”——用传统手段编辑的视频。

此次挑战中获胜的算法将以开源代码的形式发布，以帮助其他研究人员，但Facebook表示，将对自己的检测技术保密，以防被逆向工程。

Schroepfer补充说，虽然deepfakes对Facebook来说“目前不是什么大问题”，但该公司希望在未来准备好检测这些内容的工具——以防万一。一些专家表示，即将到来的2020年大选可能是利用深度假货进行严重政治影响的黄金时刻。

施罗普费尔说：“我在过去几年的艰难经历中得到的教训是，我要提前做好准备，不要被人发现措手不及。”。“我想为很多从未发生过的坏事做好真正的准备，而不是相反。”