只需几张照片和一些免费软件，现在就可以将任何人的脸快速移植到****、视频和GIF上。结果远不能令人信服，但会很快变得更好——成为机器学习如何让“眼见为实”的格言可笑地过时的又一个例子。

正如主板首次报道的那样，一位名为“deepfakes”的Reddit用户一直在应用这些工具为色情subreddit r/CelebMakes创建内容。deepfakes结合使用开源人工智能软件——包括谷歌的TensorFlow——将斯佳丽·约翰逊、泰勒·斯威夫特和梅西·威廉姆斯等名人的脸粘贴到X级GIF上。他甚至**了一个完整的视频，在一个**主题的色情场景中**了神奇女星盖尔·加多的脸(在撰写本文时，此内容已从其原始web主机中删除，但不清楚是谁删除了它。）

deepfakes对Verge说，他不想透露任何可能影响他匿名性的信息，但称这项技术“不太有趣”。当被问及他为什么**这些内容时，他说：“你可以说我的动机是痴迷，他还告诉主板，他不是一个专业的研究员，只是一个对机器学习好奇的程序员“我刚刚找到了一个聪明的方法来做面部互换，”他告诉杂志每一项技术都可能出于不良动机而被使用，而且不可能阻止。”Deepfakes没有回答来自边缘的进一步问题。

的确，所使用的技术很简单。Snapchat多年来一直在进行面部交换，计算机工程师长期以来一直使用机器学习将视觉效果混合在一起。与deepfake使用的技术类似，deepfake创造了假名人面孔，设计了新衣服，甚至把线条画变成了噩梦般的猫。它甚至还提供了功能强大的应用程序，包括Pri**a（它使用一种称为“风格转换”的技术使你的**看起来像画）和FaceApp（它可以将你的脸变形成一个更老或更年轻的自己）。

值得注意的是，当然，像Photoshop这样的软件很早就可以进行这种数字编辑了。但人工智能有助于自动化这一过程，使其更快、更容易访问。如果你想用Photoshop**假视频，你必须编辑每一帧。如果你有一点技术知识的话，机器学习可以为你做很多艰苦的工作。

如果这些工具广泛使用，其危险是不言而喻的。他们可能被用来**超级虚假新闻，或骚扰和欺凌。想象一下，如果有人在学校里伪造同学的色情作品，情况会是怎样的。获取源图片很容易，即使生成的内容看起来是假的，对目标来说也会很痛苦。在一个厌女主义者利用在线平台发动持续且往往具有破坏性的仇恨运动的时代，伤害的可能性是巨大的。

凯特·德夫林博士（Kate Devlin）是一位专门研究人工智能和***的学者，她在接受《边缘》杂志采访时表示，这项技术可能会带来一些积极的影响，包括通过**假***来减少剥削性工作。但这些积极面很容易被消极面压倒，她说：“虚假新闻和报复色情的可能性非常高，而这种技术很容易通过事物的外观来实现。”

德夫林还指出，与人工智能造成的其他道德挑战（如算法中的偏差问题）相反，这种威胁更难控制。这些技术不是由集中式公司分发的——它们是开源的，任何拥有正确技术的人都可以使用。”这很容易拿到，所以很难把它放回瓶子里，”她说。

人工智能领域的专家表示，他们对这项技术的使用感到沮丧和失望，但一些人认为这是一次就数字图像的未来进行急需的对话的机会。Alex Champandard是一名研发人工智能创新工具的研究员，他告诉《边缘》杂志，公众需要更好地理解技术的作用。他还建议，研究人员可以也应该建立能够更好地发现此类假货的程序。

“印刷宣传和印刷机一样古老，视频宣传和电视一样古老。现在有了人工智能，我们需要学习如何处理这一点变得非常明显！”尚曼德说答案不一定是技术上的，事实上，可能不是。这更多的是确定和建立信任关系，包括与记者、新闻媒体、出版商或任何相关内容创作者的关系。”