谷歌担心人工智能。不，并不是说它会变得有知觉并接管世界，而是说，一个乐于助人的家庭机器人可能会不小心用刀刺伤它的主人。该公司最新的人工智能研究论文以“人工智能安全中的具体问题”为题对此问题进行了深入研究。不过，真的，这只是一种别出心裁的说法，“我们如何阻止这些恐怖机器人在睡梦中杀死我们。”

未来机器人**商面临的五大关键问题

为了回答这个让人头疼的问题，谷歌的计算机科学家们研究了五个“实际研究问题”——程序员在开始创建下一个johny5之前需要考虑的关键问题。出于公共关系的原因，本文提出了这些问题，因为它们可能涉及到一个假想的清洁机器人，但实际上，它们是要应用到任何现实世界的人工智能代理，将控制一个机器人，将与人类互动。

问题如下：

• 避免负面影响：如何阻止一个机器人在狂热地寻找胡乱翻地板的过程中撞翻书架？
• 避免奖励黑客：如果一个机器人被编程为喜欢打扫你的房间，你如何阻止它弄乱了地方，这样它就可以感觉到再次打扫房间的乐趣？
• 可伸缩的监督：你给机器人多少决策权？它是否需要每次移动一个物体来清洁你的房间时都问你，或者只有当它移动你放在床下的那个特别的花瓶时才问你，而且因为某种原因从来没有放过花？
• 安全探索：你如何教机器人好奇心的极限？谷歌的研究人员举了一个机器人的例子，它正在学习在哪里可以拖地。你怎么让它知道拖新地板是好的，但它不应该把拖把插在电源插座里？
• 分布式转移的稳健性：如何确保机器人尊重他们所处的空间？在你卧室里放出来的清洁机器人和在工厂里清扫的机器人会有不同的行为，但是它怎么知道这两者之间的区别呢？

所以，这些并不像艾萨克·阿西莫夫的机器人三定律那么简单，但我们不应该期待。毕竟，这些都是问题，不是答案。

其中有些问题似乎很简单。例如，对于最后一个，您可能只想编程一个具有许多预设模式的bot。当它发现自己在一个工业环境中（它会知道，因为你会告诉它），它可以切换到工厂模式，也许会更努力地清扫。

但其他问题是如此的背景沉重，几乎不可能为每一个场景预先规划响应。考虑一下“安全探索”问题，论文将其掩盖为“采取看似不理想的行动[…]，但有助于代理了解其环境。”机器人代理当然需要在其参考范围之外采取行动来了解世界，但当他们这样做时，你如何减轻潜在的伤害？

这篇论文提出了一系列的方法，包括创建机器人智能体在撞击现实世界之前可以探索的模拟“有界探索”的规则，限制机器人的运动到一个预定义的空间，一个可能已经被机器人证明可能的错误；还有好的、老式的人类监督——让机器人在采取超出其职权范围的行动之前，先与处理者核实。

你可以想象，每种方法都有自己的优缺点，谷歌的论文并不是要提出一个突破性的解决方案——它只是概述了更广泛的问题。但正如该公司在其研究博客中指出的那样，这些实际挑战才是真正的机器人安全风险。

如果你愿意的话，担心有知觉的人工智能，但是像这样的问题更直接

尽管像埃隆·马斯克和斯蒂芬·霍金这样的人物提高人们对人工智能危险的认识是好的，但大多数计算机科学家都同意，这些问题还很远，很远。在我们担心人工智能变得有杀伤力之前，我们需要确保可能在工厂和家庭中工作的机器人足够聪明，不会意外地杀死或残害人类(这已经发生了，而且肯定还会发生。）

谷歌在这一切中的股份也很有趣。该公司可能会将2013年收购的雄心勃勃的机器人硬件**商波士顿动力公司（Boston Dynamics）**，但它仍在继续向各种人工智能项目投入资金和资源。正是这项工作，以及来自大学和竞争对手公司的研究，将为软件大脑提供物理机器人动画的基础。确保这些大脑思维正常不是一件小事。

未来的机器人管家