包括埃隆·马斯克（Elon Musk）和谷歌人工智能子公司DeepMind的三位联合创始人在内的技术领袖签署了承诺，承诺不研发“致命的自主武器”

这是一个由研究人员和高管组成的非官方全球联盟反对传播此类技术的最新举措。誓言警告说，使用人工智能“在没有人为干预的情况下[选择]和[攻击]目标”的武器系统构成道德和现实威胁。签署国认为，从道德上讲，夺走人类生命的决定“永远不应该委托给机器”。在务实方面，他们说，此类武器的扩散将“对每个国家和个人造成危险的不稳定”

该承诺于今天在斯德哥尔摩举行的2018年国际人工智能联合会议（IJCAI）上发表，由生命未来研究所（Future of Life Institute）组织，该研究所旨在“缓解人类生存风险”。该研究所以前曾帮助一些来自同一个人的信件，呼吁联合国考虑所谓的致命自主武器或法律的新规定。然而，这是有关各方首次单独承诺不开发此类技术。

签署方包括SpaceX和特斯拉首席执行官埃隆·马斯克；谷歌DeepMind子公司的三位联合创始人Shane Legg、Mustafa Suleyman和Demis Hassabis；Skype创始人贾恩·塔林；以及一些世界上最受尊敬和杰出的人工智能研究人员，包括斯图尔特·拉塞尔、约书亚·本吉奥和尤尔根·施密杜伯。

该承诺的签字人、麻省理工学院物理学教授马克斯·特马克（Max Tegmark）在一份声明中表示，该承诺表明人工智能领导人“从谈话转向行动”。特马克说，该承诺做了政客们没有做的事情：对军用人工智能的发展施加硬限制自动决定杀人的武器和生物武器一样令人厌恶和破坏稳定，应该以同样的方式处理，”Tegmark说。

到目前为止，为自主武器的国际监管争取支持的努力都是徒劳的。活动家们建议，法律应该受到限制，类似于对化学武器和地雷的限制。但请注意，要在什么构成和什么不构成一个自治系统之间划清界限是非常困难的。例如，炮塔可以瞄准个人，但不能向他们开火，人类“在回路中”只是在其决定上打橡皮图章。

他们还指出，执行这些法律将是一个巨大的挑战，因为开发人工智能武器的技术已经非常普及。此外，参与开发这项技术最多的国家（如美国和中国）没有不这样做的真正动机。

军事分析师保罗·沙雷（Paul Scharre）撰写了一本关于战争和人工智能未来的书，他在《边缘》杂志上表示，这一承诺不太可能对国际政策产生影响，而且这些文件在挑拨这场辩论的复杂性方面做得不够好。”似乎缺少的是人工智能研究人员持续参与，向决策者解释他们为什么关注自主武器，”Scharre说。

他还补充说，大多数**都同意这项承诺的主要承诺——个人不应开发针对个人的人工智能系统——以及用于防御的军事人工智能的“猫已经出笼了”至少有30个国家监督了用于防御火箭和导弹攻击的自主武器真正的辩论是在中间空间，新闻发布有点含糊不清。

然而，尽管国际监管可能不会很快出台，但最近的事件表明，像今天的承诺这样的集体行动主义可以带来不同。例如，谷歌被披露正在帮助五角大楼开发非致命人工智能无人机工具后，遭到员工**。几周后，它发布了新的研究指南，承诺不开发人工智能武器系统。对韩国凯斯特大学的威胁性**也产生了类似的结果，凯斯特大学校长承诺不会开发“违背人类尊严，包括缺乏人类控制的自主武器”的军事人工智能

在这两种情况下，有理由指出，相关组织并没有阻止自己开发具有其他非致命用途的军事AI工具。但承诺不让电脑单独负责杀人总比根本不承诺要好。

承诺全文如下，签字人名单如下：

Artificial intelligence (AI) is poised to play an increasing role in military systems. There is an urgent opportunity and necessity for citizens, policymakers, and leaders to distinguish between acceptable and unacceptable uses of AI.

In this light, we the undersigned agree that the decision to take a human life should never be delegated to a machine. There is a moral component to this position, that we should not allow machines to make life-taking decisi*** for which others – or nobody – will be culpable.

There is also a powerful pragmatic argument: lethal autonomous weap***, selecting and engaging targets without human intervention, would be dangerously destabilizing for every country and individual. Thousands of AI researchers agree that by removing the risk, attributability, and difficulty of taking human lives, lethal autonomous weap*** could become powerful instruments of violence and oppression, especially when linked to surveillance and data systems.

Moreover, lethal autonomous weap*** have characteristics quite different from nuclear, chemical and biological weap***, and the unilateral acti*** of a single group could too easily spark an arms race that the international community lacks the technical tools and global governance systems to manage. Stigmatizing and preventing such an arms race should be a high priority for national and global security.

We, the undersigned, call upon governments and government leaders to create a future with strong international norms, regulati*** and laws against lethal autonomous weap***. These currently being absent, we opt to hold ourselves to a high standard: we will neither participate in nor support the development, manufacture, trade, or use of lethal autonomous weap***. We ask that technology companies and organizati***, as well as leaders, policymakers, and other individuals, join us in this pledge.

美国东部时间7月18日05:40更新：保罗·沙雷（Paul Scharre）对该报道进行了补充评论。