上个月，俄罗斯宣布了一种新的移动机器人警卫，旨在击落弹道导弹基地的入侵者。扭曲？他们不需要人类的许可。这种移动机器人类似于一辆装在枪上的坦克，可以在一个区域巡逻，并对任何它识别为目标的东西开火。此前不久，俄罗斯副总理呼吁军方开发具有人工智能的机器人，以“自行打击”

俄罗斯是许多开发自主***器人的国家之一。目前还没有一家公司进入战场，但本周，这个问题被提交到了联合国。

87个国家参加了致命性自主武器问题首脑会议，该会议于今天结束，并于11月通过了一项决议，再次解决这一问题。这次峰会是由联合国《某些常规武器公约》主办的非正式专家会议，该公约禁止或限制使用“给战斗人员或……造成不必要或不合理痛苦”的武器。。。不加区别地影响平民。”

五个国家支持先发制人的禁令

机器人杀人的前景给人权法带来了许多道德挑战。在部署机器人之前，机器人必须达到什么样的精度标准？如果一个机器人意外杀死一个平民，谁要负责？把杀人的决定委托给机器是否合乎道德？

支持者说，机器人武器比使用人类士兵造成的平民伤亡要少。把机器人送上战场意味着你只是在拿机器人冒险，而不是拿人的生命冒险。机器人也可以比人类承担更多的风险，深入敌方领土或游荡，直到它完全确定自己有正确的目标，这通常是一个更好的射击。

和平活动家说，让机器决定何时使用致命武力消除了对战争进行重要检查的仁慈空间。他们说，用机器代替人，人为地降低了战争的成本，这可能导致更多的冲突。除此之外，还有一种无法形容的反感，那就是机器人一时兴起就死。

但在联合国决定禁止自主***器人之前，它必须决定如何定义它们。《特定常规武器公约》非正式会议是导致禁令的进程中的第一步——信息收集。专家们讨论了自治的定义、战争中需要的人类控制程度以及可能适用的人权法。

大多数机器人技术非常先进的国家都参加了会议，包括美国、俄罗斯、中国和以色列。大部分讨论集中在“自主”与“完全自主”致命武器的概念上，这与人力投入的终点有关。例如，一架自行飞向目标的无人机已经具有一定的自主性——按照这种逻辑，即使是商用飞机也具有自主性。一架按计划到达某个目标然后投弹的无人机可以被认为是部分或完全自主的，而一个自动向入侵者开火的防御系统可以被认为是完全自主的。

双方一致认为会议富有成效

据与会者说，古巴、厄瓜多尔、埃及、梵蒂冈和巴基斯坦呼吁先发制人地禁止完全自主的武器，而法国、德国、荷兰、英国和其他国家则强调了人类对目标和攻击决策进行有意义控制的重要性。以色列花了一些时间讨论自主军事机器人的实用性，而中国和俄罗斯没有采取强硬立场。巴基斯坦表达了最大的担忧，可能是因为其历史上有美国下令的无人机袭击。

“我印象深刻。出席和参与都非常出色，礼貌占主导地位，表达了多种不同的观点，”与五角大楼共事的佐治亚理工学院机器人学家和伦理学家罗恩·阿金（Ron Arkin）说。

“似乎大多数代表团都有话要说，以至于我们一直在拖延时间，”他说但如果你在寻求共识，那就不太可能了，因为术语和定义是一个一致的问题。”

这一问题将在11月再次得到解决

来自人权观察组织和国际机器人军备控制委员会（ICRAC）的活动人士对这次会议感到鼓舞。”感觉上，这是一次成功的会议，也是本机构所能记得的最有活力的会议，”红十字国际委员会成员马克·古布鲁德说。

然而，他对美国的发言感到失望，美国的发言似乎对这个问题不屑一顾，含糊其词地鼓吹人类对武器系统的“适当”控制。美国国防部发布了一项关于机器人系统开发的临时指令，规定必须有“适当的人类判断水平”。美国《特定常规武器公约》代表建议，这项指令应该成为世界其他国家的榜样，但大多数活动人士认为，这项指令措辞过于软弱。

Gubrud回忆起美国的立场时说：“事先强调的是，讨论的不是当前的武器，特别是无人机。”美国在那里是为了告诉每个人它的模式有多好，而不是去听别人说什么。”

下一步是《特定常规武器公约》主席、法国的让·胡格斯·西蒙·米歇尔大使为《公约》11月与所有117个缔约国举行的下一次会议编写会议纪要。届时，《公约》可选择继续探讨禁止提案，或升级到国际武器协定的下一阶段。