昨天，Reddit禁止了以面孔交换的名人色情，裁定使用最新人工智能技术**的内容属于该公司对“非自愿色情”的限制。Reddit说，无论是脸被粘贴到剪辑中的名人还是原始演员，都不会被问到他们是否同意，因此，这是不洁的。

其他网络平台同意；推特、****和视频分享网站Gfycat最近几周都出台了类似的禁令。尽管人工智能假冒色情的法律地位尚不明确，但网络公司很清楚：人工智能假冒的现实性和伪造的简易性使其成为一种潜在的危险工具，肯定会被用于欺凌、骚扰和误导。当然，禁令不会阻止这些内容的**，但会限制其传播。

所有这些都应该是值得欢迎的消息，不仅仅是对那些担心AI假色情的人来说，对那些更普遍地关心高质量AI假的人来说也是如此。

在过去的几年里，这个话题已经在人工智能社区中得到了广泛的讨论，并且很快就会成为主流。用于在色情“深度假货”中交换人脸的算法只是一个更大的AI工具包的一部分，该工具包让人们比以往更容易地操纵图像、视频和音频。将面部交换技术与模仿他人声音的能力相结合，你就有可能在灾难性的程度上获得错误信息。唐纳德·特朗普向朝鲜宣战。希拉里·克林顿（Hillary Clinton）因赞扬光明会而被捕。正如《****》最近的一篇评论文章所说，我们的政治未来是“可黑客的”。其他报道则不那么公平，声称人工智能赝品“可能会促成我们所知的现实的终结”

A.I. could fabricate fake news

Artificial intelligence could make fake news even harder to spot.

我们需要反击这种危言耸听的想法，而最近对AI假色情的取缔就是这场斗争中一个有益的例子。这表明，把关人对内容的监管权不会因为是通过机器学习而消失。与其他类型的可疑内容不同，平台在定义和限制（如仇恨言论和虐待）方面存在困难，人工智能赝品的类别更为明确。

持更悲观观点的专家表示，这项技术将得到改进，人类无法区分人工智能赝品和真实画面。这可能是真的，而且肯定会使节制变得更加困难——但这只适用于人类。研究人员已经在研究如何使用与“合成媒体”相同的人工智能工具来检测“合成媒体”的问题。随着YouTube和Facebook等视频平台利用机器学习增强了对内容进行标记和分类的能力，一旦我们有了检测AI赝品的合适方法，理论上，将此类安全检查整合到这些内容可能造成最大破坏的网站中应该很容易。从某种程度上说，人工智能伪造品可能比不良报告更容易被发现。通过一种算法对像素的操作是可以量化的，而自旋和偏置是不可量化的。

所有这些都不是说人工智能造假问题已经解决，也不是说这个问题在未来几年不需要认真审查。例如，尽管有禁令，人工智能假冒色情肯定会继续被用作骚扰工具，而其背后的技术肯定会有各种创造性的应用。但是，这些事件表明，我们现有的制度和制衡机制并没有完全被新技术所超越。它们可以进行调整。

然而，更重要的是，有一种危险，即通过炒作人工智能假货的威胁，我们增加了它的影响力。想想“假新闻”这个标签是如何被媒体过度使用的，变成了一个没有明确含义的时髦词。很快，它就遭到了同样的民粹主义和党派势力的反对，他们的权力本打算削弱。在短期内，人工智能造假的实际技术所带来的威胁可能比其感知的要小。就像“假新闻”一样，它将成为骗子和阴谋论者的盾牌，他们被用来驳斥任何违背自己信念的证据。在人工智能时代，下一个“抓住他们的猫咪”的视频将更容易在合理怀疑的迷雾下被视为赝品而不屑一顾。

这滋生了一种媒体虚无主义，一种认为任何视听内容都不能确切地说是“真实的”的信念。这种态度在r/deepfakes subreddit上可见，在那里，将名人面孔粘贴到色情剪辑上的用户认为他们在某种程度上帮助了人们。通过改进面部交换技术，他们正在侵蚀真假的定义，这将阻止人们成为真正复仇色情的目标。”一篇流行的帖子说：“合法的自制****被用作报复***，可以被当作赝品扔掉。”如果有什么是真的，什么都不是真的。”

这是一个自私自利的论点，但不一定是真的。即使人工智能赝品与现实生活无法区分，也不意味着现实消失了。人工智能研究人员、网络平台和媒体都有责任证明这是真的。