当我们谈论人工智能带来的危险时，重点通常是意外的副作用。我们担心我们可能会意外地创造出一个超级智能的人工智能，而忘记用良心来编程；或者我们将部署刑事判决算法，吸收他们训练数据中的种族偏见。

但这只是故事的一半。

那么，那些积极希望将人工智能用于不道德、犯罪或恶意目的的人呢？他们不是更有可能**麻烦吗？而且更快吗？答案是肯定的，来自包括人类未来研究所（Future of Humanity Institute）、生存风险研究中心（Centre for The Study for The存在主义风险研究）和埃隆·马斯克（Elon Musk）支持的非盈利OpenAI等机构的二十多名专家表示。非常好。

在今天发表的一份题为“人工智能的恶意使用：预测、预防和缓解”的报告中，这些学者和研究人员阐述了人工智能在未来五年可能被用来刺痛我们的一些方式，以及我们可以做些什么来阻止它。该论文的合著者、人类未来研究所的迈尔斯·布伦达奇（Miles Brundage）告诉《边缘》（the Verge），虽然人工智能可以发动一些相当恶劣的新攻击，但我们当然不应该惊慌失措或放弃希望。

“我喜欢采取乐观的态度，那就是我们可以做得更多，”布伦达奇说这里的重点不是描绘一幅厄运和阴暗的画面——有许多防御措施可以发展，我们还有很多东西要学习。我不认为这是没有希望的，但我确实把这份文件看作是行动的号召。”

该报告内容广泛，但重点关注人工智能加剧数字和物理安全系统威胁的几个关键方式，以及**全新的危险。它还就如何应对这些问题提出了五条建议——包括让人工智能工程师更坦率地了解他们的研究可能被恶意利用；并在决策者和学者之间展开新的对话，以使**和执法部门不会措手不及。

不过，让我们从潜在威胁开始：其中最重要的一个威胁是，人工智能将通过允许不良行为者自动化以前需要人力的任务，大大降低某些攻击的成本。

例如，矛式网络钓鱼（spear phishing），即向个人发送专门设计的消息，以诱骗他们放弃其安全凭证(想想看：一封来自你的银行或似乎是老熟人的假电子邮件。）人工智能可以将这里的大部分工作自动化，绘制出个人的社交和专业网络，然后生成消息。现在有很多工作要做的是创建一个现实的、引人入胜的聊天机器人，同样的工作也可以用来创建一个聊天机器人，伪装成你最好的朋友，突然，出于某种原因，他真的想知道你的电子邮件密码。

这类攻击听起来很复杂，但关键是一旦您构建了能够完成所有任务的软件，就可以在不增加额外成本的情况下反复使用它。网络钓鱼电子邮件已经够有害的了——他们要为2014年名人照片的iCloud泄露以及希拉里·克林顿竞选主席约翰·波德斯塔的私人电子邮件被窃听负责。后者不仅对2016年美国总统选举产生了影响，还催生了一系列阴谋论，比如比萨门，差点让人丧命。想想看，一个自动化的人工智能鱼叉钓鱼者可以对不懂技术的**官员做些什么。

报告中提出的第二个要点是，人工智能将为现有威胁增加新的层面。同样的鱼叉式网络钓鱼的例子，人工智能不仅可以用来生成电子邮件和短信，还可以用来伪造音频和视频。我们已经了解了人工智能如何在研究了几分钟录制的语音后模仿目标的声音，以及它如何将人们说话的片段变成木偶。该报告的重点是未来五年将出现的威胁，这些威胁正迅速成为问题。

当然，人工智能还可能加剧一系列其他令人讨厌的行为。政治操纵和宣传是一个开始（同样，假视频和音频可能成为一个巨大问题的领域），但监控也是一个开始，特别是当用于针对少数民族时。中国就是一个最好的例子，在那里，面部识别和人们跟踪摄像机将一个边境地区——主要是******族的家园——变成了一个“全面监视状态”

这些只是人工智能扩展能力成为威胁的例子。它取代了观看饲料的人，将闭路电视摄像机从被动变为主动观察者，使他们能够自动对人类行为进行分类。”尤其是可伸缩性还没有得到足够的重视这不仅是因为人工智能可以在人的水平上执行某些任务，还因为你可以将其扩展到大量副本。”

最后，报告强调了人工智能造成的全新危险。作者概述了一些可能的场景，包括****在清洁机器人中植入**并走私到**部门的场景。该机器人利用其内置的机器视觉追踪特定的政客，当它靠近时，**爆炸。这充分利用了人工智能将启用的新产品（清洁机器人）及其自主功能（基于机器视觉的跟踪）。

概述这样的场景似乎有点荒诞，但我们确实已经开始看到人工智能启用的第一种新型攻击。面部交换技术被用来**所谓的“深度假货”——在未经名人同意的情况下，将名人的面部粘贴到色情短片上。尽管到目前为止还没有这方面引人注目的案例，但我们知道，参与创建这一内容的人希望在他们认识的人身上进行测试；为骚扰和勒索创造完美的素材。

这些例子只包含了报告的一部分，但整个文档让您感到疑惑：要做什么？这些解决方案很容易概括，但要贯彻到底将是一个挑战。报告提出了五项关键建议：

• 人工智能研究人员应该承认他们的工作是如何被恶意利用的
• 决策者需要向技术专家学习这些威胁
• 人工智能世界需要向网络安全专家学习如何最好地保护其系统
• 人工智能的道德框架需要开发和遵循
• 需要更多的人参与这些讨论。不仅是人工智能科学家和决策者，还有伦理学家、企业和公众

换言之：请多谈一点，多做一点。

考虑到人工智能是一门复杂而微妙的学科，这是一个很大的问题，但已经出现了一些有希望的迹象。例如，随着deepfakes的兴起，网络平台迅速做出反应，禁止内容并阻止其立即传播。美国的立法者已经开始讨论这个问题——表明如果这些辩论足够紧急，它们将送达**。

“当然有兴趣，”布伦达奇说，**参与讨论这些话题但仍有一种感觉是，需要进行更多的讨论，以找出什么是最关键的威胁，以及什么是最实际的解决方案。“在大多数情况下，他说，甚至很难判断什么是威胁。”目前还不清楚这一切会有多渐进——是会发生一场灾难性的大事件，还是会是一个缓慢的过程，让我们有很多机会去适应。”

“但这正是我们现在提出这些问题的原因。”