艾萨克·阿西莫夫的机器人三定律（从技术上讲是四定律）几十年来一直是科幻小说的忠实写照。不过，随着人工智能的最新进展，计算机科学家和科技公司开始认真考虑我们实际需要的规则，以保护自己免受未来机器人和人工智能的影响。上周，谷歌的研究人员发表了一篇科学论文，概述了让机器人安全工作的五大关键挑战，昨天，微软首席执行官萨蒂亚·纳德拉（Satya Nadella）在给Slate的一篇文章中阐述了他认为人工智能研究必须遵循的六项“原则和目标”，以确保社会安全。

纳德拉担心机器人的社会影响

纳德拉的目标并不是阿西莫夫定律的直接类比。后者是机器人必须遵守的规则，而微软首席执行官则主要是向业界发表讲话——向正在构建人工智能系统和从事机器学习的计算机科学家发表讲话。因此，他的规则更多的是关于人工智能的潜在社会影响，而不是阻止机器人向你袭来。因为这个原因，他们可能听起来比阿西莫夫的更无聊（当然不那么戏剧化），但他们更重要。

以下是纳德拉的原则：

• 人工智能必须被设计来帮助人类。纳德拉说，与人类并肩工作的机器应该做“像采矿这样危险的工作”，但仍然“尊重人类的自主性”
• AI必须透明。”“我们不仅需要智能机器，而且需要可理解的机器，”纳德拉说人们应该了解技术如何看待和分析世界。”
• 人工智能必须在不破坏人的尊严的前提下最大限度地提高效率。”在这些系统的设计中，我们需要更广泛、更深入、更多样化的民众参与。科技产业不应左右未来的价值观和美德。”
• 人工智能必须为智能隐私而设计。纳德拉要求“完善的保护，以确保个人和团体信息的安全。”
• 人工智能必须有算法的责任。所以“人类可以消除意外伤害”
• AI必须防范偏见。”适当的和有代表性的研究“应该被用来确保人工智能不歧视人（像人类一样）。

恰如其分，纳德拉的目标就像阿西莫夫自己的三定律一样充满了模糊性。但是，尽管后者的漏洞为短篇小说增添了趣味性（阿西莫夫的很多小说都涉及到一个关节机器人如何绕过法律并击倒主人的逻辑技术细节），但纳德拉原则的模糊性反映了**机器人和人工智能的混乱业务，这些业务深深影响着人们的生活。

举个例子，无数次提到“偏见”和“多样性”。这是一个不言而喻的事实，科技界经常努力考虑不同的观点（那些非白人和/或非**的观点），而机器学习系统代表人类做出决策，很有可能工程师的无知甚至偏见最终会硬编码到系统中。为了确保这种情况不会发生，计算机科学家需要防范偏见（纳德拉的第六条原则），但他们**的系统也应该足够容易理解，以便其他人可以寻找偏见（他的第二条原则），然后消除任何伤害（第五条原则）。

避免偏见是一个大问题；阻止机器人破坏经济

纳德拉的六个目标（以及他随附的文章）中的另一个主题是人工智能对经济的影响——也就是所谓的“当一个机器人接替你的工作时会发生什么？”纳德拉关于人工智能必须“在不破坏人的尊严的情况下最大限度地提高效率”的声明似乎就是针对这一点，后来在他的评论文章中，他问道：“自动化会导致更多或更少的平等吗？”他建议说，没有明确的答案，但迫切需要考虑未来。

基本上，纳德拉的不同规则之间有很多重叠，但总的主题很简单：让我们不要把人搞得一团糟。在我们急于建立自主的机器和系统时，我们不应该忘记这些系统应该帮助我们，而不是伤害我们。就像阿西莫夫说的。

我们能造一台有意识的电脑吗？