你决定用你的自动驾驶汽车杀谁？让我们看看！

最后，一个决定你的自动驾驶汽车应该杀死谁的电子游戏！麻省理工学院的“道德机器”是一项关于人们对自动驾驶汽车应该如何表现的快速判断的开放领域研究，今年夏天早些时候作为一项更大规模研究的一部分发布。但奇怪的是，如果你在网上随机找到它，你可能会对它的真正意义感到困惑。...

最后，一个决定你的自动驾驶汽车应该杀死谁的电子游戏！麻省理工学院的“道德机器”是一项关于人们对自动驾驶汽车应该如何表现的快速判断的开放领域研究，今年夏天早些时候作为一项更大规模研究的一部分发布。但奇怪的是，如果你在网上随机找到它，你可能会对它的真正意义感到困惑。

这些场景都是典型的电车问题的版本，这本身就成了一个笑话。你会在失控的手推车上改变轨道杀死两个人而不是四个人吗？是因为它导致更少的死亡而变得更好，还是因为你在积极杀人而变得更糟？

道德机器给电车问题增加了新的变数：你是撞上罪犯还是突然转向撞上了高管？七个孕妇（正在散步）或五个老人（其中一个无家可归）加上三条狗？它基本上是一个电子游戏，你试图最大限度地减少人的生命，基于你认为最值得活下去的人，以及你愿意在他们死后有多积极。

最后的读数告诉我，我更看重高管（他们携带带有医疗十字架的公文包）的生命，而不是罪犯（他们携带一袋袋赃款）的生命。这有点令人反感，但显然这与大多数受访者的偏好在统计上是一致的。还有慢跑者对“大人物”的一个滑块，这是如此明显的粗俗和错误的头脑，我甚至不应该解释。

一个严肃的问题：这些信息的预期用途是什么？该网站将其描述为“一幅关于机器在面临道德困境时如何做出决定的人云亦云的图片”，但实际收集到的信息更令人不安。这个测试的任何结果都会产生某种生命价值的排名（例如，高管>慢跑者>退休者>狗），而且由于整个测试都是以自动驾驶技术为前提的，所以似乎计划用这个排名来指导自主汽车的道德决策？

那太可怕了！从字面意义上讲，我们会调查公众最希望看到谁被汽车撞到，然后告诉汽车，撞到那些人不是什么问题。

测试的前提是对死亡漠不关心。你开着车，减速显然不是一个选择，所以从一开始我们就知道有人会得到它。问题在于技术如何尽可能有效地分配这种冷漠。

这是一个糟糕的交易，与道德选择的实际运作方式无关。我一般不关心自动驾驶汽车的道德行为——仅仅是避免碰撞就能让你走得很远——但这个测试让我毛骨悚然。如果这是我们道德逻辑的最佳近似，也许我们还没有准备好让这些决定自动化。

再说一次，我最有杀伤力的角色是老太太，所以我可能不应该评判任何人。嘿，一定是有人。