雄蜂成群结队。自动驾驶坦克。自动哨兵枪。有时，战争的未来似乎一夜之间就来到了我们的家门口，而我们都措手不及。但正如保罗·沙雷（Paul Scharre）在他的新书《无人军队：自主武器和战争的未来》（Army of None:Autonomous Warms and the Future of War）中所写的那样，这一切已经过去了很长一段时间，我们目前正在收获数十年军事发展的成果。但这并不意味着它不可怕。

Scharre的书对这一领域进行了极好的概述，追溯了自动武器的历史，从早期的**（自动射击和重新装填**）到今天的DIY**无人机世界，这些无人机在**和棚子里拼凑在一起。作为一名前陆军护林员和曾帮助起草**自主武器政策的人，沙雷知识渊博，言简意赅。更重要的是，他不仅关注自主武器的政治层面，也关注基础技术，关注历史上的军备控制尝试（例如教皇英诺森二世在1139年禁止对基督徒使用十字弓，但这并没有起到多大作用）。

Verge最近与Scharre谈论了“无人军队”，讨论了美国陆军目前对自主武器的态度，试图控制所谓“***器人”的可行性，以及新军事技术是否不可避免地会产生意外和有害的副作用。

为了清晰起见，本次采访经过了精简和稍加编辑。

我想说，这本书来得正是时候，关于自主武器系统的讨论又回到了新闻中。你写作的动机是什么？

我在这些问题上已经工作了八到九年，我在联合国、北约和五角大楼参与了关于自主武器的讨论。我觉得我有足够的理由说我想写一本关于它的书。这个问题肯定正在升温，特别是当我们看到自动驾驶技术在其他领域的发展，比如自动驾驶汽车。

人们看到一辆具有自主性的汽车，他们将其与武器联系起来。他们自己计算风险，然后开始问问题，比如，“当军用无人机像自动驾驶汽车一样拥有很大的自主权时，会发生什么？”这是因为我们正处在一个非常有趣的时刻，此时技术正在变得现实，而这些问题没有那么理论化。

美军是如何达到目前的地位的？我们的读者熟悉私人公司开发的科技型自动驾驶汽车，但军队是如何以及何时对此感兴趣的？

以美国为例，他们在伊拉克和阿富汗无意中卷入了这场军事机器人革命。我不认为这是有意的计划，购买数千个空中和地面机器人，但事实就是如此。大多数人都会说这不是一个好主意，但事实证明，这些机器人在这些冲突中执行非常具体的任务是非常有价值的。无人机提供头顶监视，而[**处理机器人]降低了地面简易爆炸装置之类的威胁。

在这些冲突中，你看到美国军方意识到了这项技术，并开始从战略上思考他们想要采取的方向。因此，一个共同的主题是希望发展更多的自主性，因为过去[机器人]系统与人类之间的通信联系非常脆弱。如果这些卡死了，那么你的机器人什么也做不了。但当军方说他们想要“完全自治”时，他们并没有想到终结者。他们在想一个机器人，它可以自己从a点到B点。他们还没有清楚地表达这一点。

我引用了美国空军2009年关于[未重写]飞机系统的飞行计划，该计划明确提出了[自主武器系统]的这些问题，这是第一份这样做的民防文件。博士说，我们可以预见，在这段时间里，速度优势使完全自治成为可能，这就提出了所有这些棘手的道德和法律问题，我们需要开始讨论这个问题。我认为这是正确的。

美国空军飞行计划说，在计算机比人类做出决策更快的情况下，将控制权交给机器可能是有利的。你指出，目前使用的极少数自主武器系统就是这种情况——它们是为人类无法跟上的情况而设计的。

比如，美国海军的宙斯盾作战系统（Aegis Combat System），用于舰船防御精确制导导弹的轰炸，而精确制导导弹本身就是一种半自治系统。鉴于这一事实——自主武器系统是为了响应自主武器系统而建造的——你认为这项技术的前进是不可阻挡的吗？

我认为这是这本书的中心问题之一。我们走的这条路，目的地不可避免吗？很明显，这项技术正在引导我们走上一条完全自主的武器系统肯定是可能的道路，在一些简单的环境中，它们今天是可能的。

这是好事吗？有很多理由不这么认为。我倾向于认为减少人类对暴力的控制不是一个好主意，[但]我也不认为要阻止科技的前进步伐很容易。我在书中试图解决的一个问题是这方面的历史记录，因为它非常复杂。武器控制的成功和失败的例子可以追溯到公元前1500年的古印度。有一个由来已久的问题，“我们是控制技术，还是我们的技术控制我们？”我认为没有简单的答案。归根结底，挑战不是自主或技术本身，而是我们自己。

我认为你的书做得很好的一件事是帮助定义了这场辩论的术语，区分了不同类型的自治。这似乎非常重要，因为没有共同语言，我们如何讨论这些问题？考虑到这一点，您是否认为这里有任何特定的概念经常被误解？

[笑]这永远是挑战！关于这个问题，我在书中写下了一万字，现在我必须用一两段来总结。

但有一点是肯定的，人们倾向于谈论“自治系统”，我认为这不是一个很有意义的概念。您需要在哪些方面谈论自治：您谈论的自动化任务是什么？自治不是魔法。这仅仅是一种自由，无论是人还是机器，去执行一些动作。随着孩子们年龄的增长，我们给予他们更多的自主权——晚点出门，开车，上大学。但是自主性和智力不是一回事。随着系统变得越来越智能，我们可以选择给予它们更多的自主权，但我们不必这样做。

在追溯自主武器的历史时，你可以从美国内战和加特林枪的发明者理查德·加特林开始。这是现代**的前身，你可以从盖特林的一封信中摘录一段精彩的话，他在信中说他的动机是拯救生命。他认为自动发射的枪意味着战场上士兵的数量减少，因此死亡人数也会减少。当然，事实并非如此。你认为战争中的新技术不可避免地会产生这些意想不到的血腥后果吗？

当你拥有很多技术的时候，它们看起来确实很棒。你说，“哇，看看这个！我们可以在战场上更有效地拯救我们部队的生命！”但是，当双方都拥有这些武器时，就像使用机关枪一样，突然之间，战争将带到一个更可怕的地方。我认为这与自主性和机器人技术有关。存在军备竞赛的风险，各国各自都在追求各种非常合理的军事进步。但总的来说，这会降低战争的可控性，总体上对人类不利。

有了加特林机关枪，这是我在研究这个领域的历史时偶然发现的一件迷人的事情。那里的自动化确实减少了提供一定数量火力所需的人数：四个人用一门加特林**可以提供多达100人的火力。但问题是，军队是怎么做的？他们是否减少了军队中的人数？不，他们扩大了火力，在这样做的过程中，他们把暴力提升到了一个新的水平。这是一个重要的警示故事。

你指出，人们错误地认为，当事实上存在大量内部阻力时，美国军队会急于实现自治。例如，与俄罗斯不同的是，美国没有为前线建造陆基机器人，它正在开发的自主飞机是用于支援任务，而不是战斗。你如何总结美国目前的自主武器政策？

你会听到很多关于美国国防体系、人工智能和自主性的花言巧语。但如果你看看他们到底在花什么钱，现实并不总是相符的。特别是在作战应用中，存在着这样一种脱节，在DARPA这样的地方有工程师全速运转并使技术发挥作用，但在研发和作战使用之间有一个死亡谷。而其中一些障碍是文化，因为战士们只是不想放弃他们的工作——特别是那些处于先锋地位的人。

结果是，美国国防部领导人已经非常强烈地表示，他们打算在未来的武器系统中让人参与，授权致命武力决策。我听不到像俄罗斯这样的其他国家说同样的话，他们谈论建立一个能够自主作战的全自动化作战部队。

俄罗斯和中国显然在书中提到了很多，但专家们似乎更担心非国家行为者。他们指出，许多这类技术，如自主导航和小型无人机，都是免费提供的。那里的威胁是什么？

像***国这样的非国家组织今天已经拥有了武装无人机，他们使用商用设备拼凑而成。技术无处不在，这是我们必须努力解决的问题。我们已经看到了低级别的“大规模”无人机袭击，比如对叙利亚俄罗斯空军基地的袭击。我不敢说这是一个无人机群，因为没有迹象表明他们是合作的。但我认为，随着时间的推移，这种攻击的复杂度和规模将不断扩大，因为这项技术非常普及。这个问题没有好的解决办法。

人们担心人工智能是一种“双重用途”技术，任何商业研究都可能有恶意应用，这似乎促使许多人主张，我们需要一项控制自主武器的国际条约。你认为这样的条约有可能达成吗？

在联合国最近的会议之后，有一些能量，因为他们看到两个主要国家的重大举措：奥地利，他们将呼吁禁止，和中国，在本周末表示他们希望某种程度上禁止自主武器。但是，我认为我们看不到联合国在《特定常规武器公约》（1983年《特定常规武器公约》（Convention on某些常规武器公约）中签署条约的势头。这根本不可能[联合国是一个基于共识的组织，每个国家都必须同意。这不会发生的。

过去的情况是，这些运动在联合国这些大型集体机构中已经成熟了一段时间，然后发展成独立的条约。例如，这导致了关于集束**的条约。我认为我们还没有到那个地步。没有一个核心的西方民主国家集团参与其中，这在过去是至关重要的，加拿大和挪威等国家是主要的。奥地利的举动可能会改变这种动态，但目前还不清楚。

这次最大的不同是缺乏直接的人道主义威胁。人们被地雷和集束**炸死致残，而在这里，这种威胁是非常理论化的。即使像中国和美国这样的国家确实签署了某种条约，核查（它们是否遵守了条约的规则）也将异常困难。很难想象你会如何让他们彼此信任。这是一个核心问题。如果你不明白，就没有解决办法。

鉴于你认为联合国的禁令或一系列限制不会发生，我们能够引导自主武器发展的最佳方式是什么？因为没有人参与这场辩论，即使是那些认为自动武器肯定会拯救生命的人，也认为没有风险。

我认为，学术界在公共领域就这个话题进行更多的对话都是有益的。这是一个集合了一系列学科的问题：技术、军事行动、法律、道德和其他方面。因此，在这里进行一次强有力的讨论是有益的，也是非常必要的。当然，我想这本书可能有助于促进这种对话，因为它拓宽了参与对话的人群。

我认为重要的是建立控制自主武器的基本原则。比如定义“有意义的人类控制”或“适当的人类判断”或关注人类角色的概念。我喜欢这样，我想在国际上看到更多这样的对话。我认为它提出了一个问题：如果我们有任何和所有我们能想到的技术，我们希望人类在战争中扮演什么角色？为什么？哪些决策需要独特的人类判断？我不知道答案，但这些是正确的问题。