我们倾向于相信录像和录音的内容。但是有了人工智能，任何人的脸或声音都可以通过精确的定点重建。这个产品是假的，一种可以用来**模因、误导或色情的模仿品。

一看尼古拉斯·凯奇的deepfakes或者乔丹·皮尔的deepfake PSA就可以清楚地看出，我们正在处理奇怪的新技术。这些例子虽然相对无害，但对未来提出了疑问。我们能相信视频和音频吗？我们能让人们为他们在屏幕上的行为负责吗？我们准备好做假货了吗？

深赝品是新的，容易**，而且发展迅速

Deepfake技术只有几年的历史，但它已经发展成一种既迷人又令人不安的东西。“deepfake”一词于2017年出现在Reddit的一条线上，用来描述通过人工智能对人类外貌或声音的再创造。令人惊讶的是，几乎任何人都可以用一台蹩脚的电脑、一些软件和几个小时的工作来**一个假货。

与任**技术一样，深赝品也存在一些困惑。“喝醉的佩洛西”视频就是这种混乱的一个很好的例子。深度赝品是人工智能**的，它们是用来模仿人的。“灌篮佩洛西”视频，这被称为一个深假，实际上只是一个视频南希佩洛西被放缓和音调纠正，以增加一个含糊不清的讲话效果。

这也是为什么deepfakery不同于《星球大战：流氓一号》中的CGI Carrie Fisher。虽然迪斯尼花了大量的钱研究卡丽·费舍尔的脸，并用手重新**，但一个拥有一些假冒软件的书呆子可以在一天内免费完成同样的工作。人工智能使这项工作难以置信的简单、廉价和令人信服。

如何做假货

就像教室里的学生一样，人工智能必须“学习”如何执行其预期任务。它通过一个暴力尝试和错误的过程来实现这一点，通常被称为机器学习或深度学习。例如，一个设计用来完成超级马里奥兄弟第一关的人工智能，会一遍又一遍地玩这个游戏，直到找到最佳的获胜方式。设计人工智能的人需要提供一些数据来启动工作，以及在工作过程中出错时的一些“规则”。除此之外，人工智能完成了所有的工作。

这同样适用于面部娱乐。但是，当然，重塑面孔并不等于打败电子游戏。如果我们要创造一个尼古拉斯·凯奇主持温迪·威廉姆斯秀的假象，我们需要：

• 目的地视频：目前，deepfakes最适合清晰、干净的目的地视频。这就是为什么一些最有说服力的假货都是政客的；他们往往在灯光下一动不动地站在讲台上。所以，我们只需要一段温迪坐着不动说话的视频。
• 两个数据集：为了让嘴和头的动作看起来更准确，我们需要一个温迪·威廉姆斯的脸数据集和尼古拉斯·凯奇的脸数据集。如果温迪向右看，我们需要一张尼古拉斯·凯奇向右看的照片。如果温迪张嘴，我们需要一张凯奇张嘴的照片。

在那之后，我们让人工智能做它的工作。它试图一次又一次地创造出“深假”，从错误中吸取教训。很简单，对吧？好吧，温迪·威廉身上凯奇脸的视频骗不了任何人，那我们怎么能更进一步呢？

最有说服力（和潜在危害）的假货是全方位的模仿。乔丹·皮尔（Jordan Peele）的受欢迎的奥巴马就是一个很好的例子。让我们做一个模拟。让我们来做一个马克·扎克伯格宣称他憎恨蚂蚁的假象，听起来很有说服力，对吧？我们需要的是：

• 目的地视频：这可能是扎克伯格本人的视频，也可能是一个长得像扎克伯格的演员的视频。如果我们的目的地是一个演员的视频，我们只需将扎克伯格的脸贴在演员身上。
• 图片资料：我们需要扎克伯格说话、眨眼和转头的照片。如果我们要把他的脸叠加到一个演员身上，我们还需要一个演员面部动作的数据集。
• 祖克的声音：我们的假货需要听起来像祖克。我们可以通过录制一个模仿者，或者用人工智能重现扎克伯格的声音来做到这一点。为了重现扎克伯格的声音，我们只需通过像Lyrebird这样的人工智能运行扎克伯格的音频样本，然后键入我们想要他说的话。
• 口型同步人工智能：既然我们要在视频中加入假扎克伯格的声音，口型同步人工智能就需要确保假面部动作与所说的相符。

我们并不是想淡化深造的工作和专业知识。但是，与奥黛丽·赫本起死回生的百万美元CGI工作相比，深度假货简直是小菜一碟。虽然我们还没有陷入政治或名人的深造，但即使是最糟糕、最明显的深造也造成了真正的伤害。

关联：人工智能的问题：机器在学习东西，但不能理解它们

假货已经造成了现实世界的伤害

到目前为止，大多数深度假货只是尼古拉斯·凯奇的迷因、公共服务公告和令人毛骨悚然的名人***。这些渠道相对无害，也容易识别，但在某些情况下，假货成功地被用来传播错误信息，伤害他人的生命。

在印度，印度教民族主义者利用假冒伪劣手段诋毁和煽动针对女记者的暴力行为。2018年，一位名叫拉娜·艾尤布（Rana Ayyub）的记者成为这样一场误传活动的受害者，这场误传活动包括在色情视频上叠加一段她脸部的假视频。这导致了其他形式的网上骚扰和人身暴力威胁。

在美国，deepfake技术经常被用来**非色情复仇片。正如Vice所报道的，现在被禁的deepfakes Reddit论坛上的许多用户询问如何创建前女友、恋人、朋友和同学的deepfake（是的，儿童色情）。这个问题是如此巨大，以至于弗吉尼亚州现在禁止一切形式的非自愿色情，包括假货。

随着deepfakes越来越有说服力，这项技术无疑将被用于更可疑的目的。但我们有可能反应过度了，对吧？这不是Photoshop之后最自然的一步吗？

深度伪造是篡改图像的自然延伸

即便是在最基本的层面上，深赝品也令人不安。我们相信录像和录音能够捕捉人们的言行，没有任何偏见和错误信息。但从某种意义上说，假货的威胁并不是什么新鲜事。它从我们第一次使用摄影开始就存在了。

举个例子，亚伯拉罕·林肯现存的几张照片。这些照片中的大部分（包括硬币和五美元钞票上的肖像）都是由一位名叫马修·布雷迪的摄影师修改的，以改善林肯细长的外表（特别是他的细脖子）。其中一些肖像的编辑方式让人联想到深奥的赝品，林肯的头像叠加在卡尔霍恩这样的“强者”身上（下面的例子是蚀刻，而不是照片）。

这听起来像是一个奇怪的宣传，但在19世纪60年代，摄影携带了一定数量的“真相”，我们现在保留的录像和录音。它被认为是艺术与科学的对立。这些照片被篡改是为了故意诋毁那些批评林肯身体虚弱的报纸。最后，它成功了。林肯的身材给美国人留下了深刻的印象，林肯本人也声称，布雷迪的照片“让我成为总统”

深赝品和19世纪照片编辑之间的联系让人感到奇怪的安慰。它向我们提供了这样一种说法：虽然这项技术有着严重的后果，但它并不是完全超出我们控制的东西。但遗憾的是，这种说法可能不会持续很长时间。

我们永远无法发现假货

我们习惯于用眼睛识别假图像和视频。很容易看到约瑟夫·戈培尔（Joseph Goebbels）的全家福，然后说，“后面那个家伙有点奇怪。”只要看一眼朝鲜的宣传照片，就会发现，如果没有YouTube教程，人们在Photoshop上的表现很糟糕。尽管深赝品给人留下了深刻的印象，但单凭肉眼还是可以发现深赝品的。

但我们很长时间内都无法发现假货。每年，deepfakes都变得更具说服力，甚至更容易**。你可以用一张照片做一个深假的，你可以用人工智能像Lyrebird在一分钟内克隆声音。融合了假视频和音频的高科技深度赝品令人难以置信地信服，即使它们是模仿马克·扎克伯格（Mark Zuckerberg）这样的知名人物**的。

在未来，我们可能会使用人工智能、算法和区块链技术来打击假货。理论上，人工智能可以扫描视频来寻找deepfake的“指纹”，而跨操作系统安装的区块链技术可以标记接触过deepfake软件的用户或文件。

如果你觉得这些防伪方法很愚蠢，那就加入这个俱乐部吧。即使是人工智能研究人员也怀疑是否有真正的解决方案。随着检测软件越来越好，假货也会越来越多。最终，我们将达到一个深度伪造将是不可能被发现的地步，我们将有更多的担心比假名人色情和尼古拉斯凯奇视频。