在艾萨克·阿西莫夫的短篇小说《奔跑》中，两位水星科学家发现，他们正在耗尽人类基地的燃料。他们派了一个名叫斯皮迪的机器人去执行一项危险的任务，去收集更多的东西，但五个小时后，他们发现斯皮迪在兜圈子，背诵废话。

事实证明，斯皮迪正面临道德危机：他被要求服从人类的命令，但他也被编程为不会给自己造成伤害。”“它达到了一个平衡，”一位科学家观察到第三条规则让他后退，第二条规则让他前进。”

随着机器人进入现实世界，道德体系变得更加重要

阿西莫夫的故事发生在2015年，这有点为时过早。但是家庭辅助机器人还有几年的时间，军用机器人即将出现，自动驾驶汽车已经出现了。我们即将看到第一代机器人在现实世界中与人类并肩工作，他们将面临道德冲突。不久，一辆自动驾驶汽车就会发现自己陷入了道德课堂上经常出现的“电车”假想情景中——是什么也不做，让5个人死，还是做点什么，杀死一个人更好？

这个假设没有正确的答案，即使有，许多机器人学家认为预测每个场景和规划机器人应该做什么是不切实际的。

塔夫茨大学（Tufts University）计算机科学教授马蒂亚斯•舍茨（Matthias Scheutz）说：“要设计一个涵盖所有可能情况的复杂的‘如果、那么、否则’规则系统几乎是不可能的。”这就是为什么这是一个如此困难的问题。你不能只列出所有的情况和行动。”

在这种新方法中，机器人通过选择而不是应用规则来推理

相反，Scheutz正试图设计出一种机器人大脑，这种大脑能够像人类一样通过道德决定进行推理。他的团队最近从海军研究办公室（ONR）获得了750万美元的资助，正计划进行一项深入调查，分析人们在做出道德选择时的想法。然后，研究人员将尝试在机器人中模拟这种推理。

在这个为期五年的项目结束时，科学家们必须展示一个机器人做出道德决定的演示。一个例子是一个机器人医护人员被命令向医院运送紧急物资以拯救生命。在路上，它遇到了一个受重伤的士兵。机器人应该中止任务，帮助士兵吗？

对于Scheutz的项目来说，机器人做出的决定比它能够做出道德决定并给出一个连贯的理由更重要——权衡相关因素，做出决定，并在事后解释决定。”“我们看到的机器人越来越复杂，越来越复杂，越来越自主，”他说对我们来说开始做这件事很重要。我们绝对不希望未来的社会里这些机器人对这些道德冲突不敏感。”

Scheutz的方法不是唯一的。乔治亚理工学院（Georgia Institute of Technology）著名伦理学家罗恩•阿金（Ron Arkin）也曾在军方工作过，他写下了可以说是机器人的第一个道德体系。他的“道德总督”是一套类似阿西莫夫的规则，每当机器人的行为有可能偏离某些限制时，就会进行干预，旨在控制武器化机器人。

希望最终，机器人能做出比人类更好的道德决定

对于ONR拨款，Arkin和他的团队提出了一种新的方法。Arkin的团队希望研究婴儿的道德发展，而不是像道德州长那样使用基于规则的系统或像Scheutz那样的“民间心理学”方法。这些经验教训将被整合到Soar架构中，Soar架构是一个流行的机器人认知系统，它既有解决问题的能力，也有总体目标。在失去了拨款后，阿金仍然希望继续执行部分提案。不幸的是，没有多少资金可用于机器人道德。

希望最终机器人能够比人类做更多的道德计算，从而做出更好的选择。例如，人类驾驶员没有时间计算在瞬间碰撞中对人类造成的潜在伤害。

然而，在此之前还有另一个重大挑战。为了进行这些计算，机器人必须从环境中收集大量信息，比如有多少人在场，以及每个人在这种情况下扮演什么角色。然而今天的机器人仍然有有限的感知能力。例如，很难设计出一种机器人来区分战场上的盟友士兵和敌人，或者能够立即评估灾民的身体和精神状况。

ONR设计道德推理系统的努力是否可行还不确定。结果可能会证明，机器人在根据广泛的等级规则做决定时做得更好。在阿西莫夫的故事的结尾，两位科学家通过引用机器人学的第一条也是最重要的定律，使斯皮迪摆脱了他的无限循环：永远不要伤害人类，或者，通过不作为，让人类受到伤害。一位科学家将自己暴露在致命的变化无常的太阳下，直到斯皮迪从恐惧中振作起来，前来救援。机器人是所有道歉，这似乎不公平-它是一个奴隶的编程，毕竟。正如阿金所说，“很难知道什么是对的什么是错的。”