在未来，人类社会的许多方面很可能被人工智能部分或全部控制。人工智能计算机代理可以管理从普通系统（例如，红绿灯）到复杂系统（例如，一个国家的整个经济），但撇开他们是否能做好自己的工作这个问题不谈，还有另一个挑战：这些代理是否能彼此友好相处？如果一个AI的目标与另一个AI的目标冲突，会发生什么？他们会战斗，还是一起工作？

谷歌的人工智能子公司DeepMind在今天发表的一项新研究中一直在探索这个问题。该公司的研究人员决定测试人工智能代理如何在一系列“社会困境”中相互作用。这是一个相当通用的术语，用于描述个人可以从自私中获利的情况，但如果每个人都自私，每个人都会输。其中最著名的例子是囚徒困境，两个人可以选择为了一个奖品而背叛对方，但如果两个人都选择了这个选项，他们就输了。

正如DeepMind的一篇博文中所解释的，该公司的研究人员测试了人工智能代理在这种情况下的表现，将他们放入一对非常基本的视频游戏中。

在第一个游戏，收集，两个玩家必须收集苹果从一个中心堆。他们可以选择用激光束“标记”另一个玩家，暂时将他们从游戏中移除，并给第一个玩家收集更多苹果的机会。您可以在下面看到此游戏的示例：

在第二个游戏，狼群，两个玩家必须在充满障碍的环境中猎杀第三个。点数不仅由捕获猎物的玩家获得，而且当猎物被捕获时，所有靠近它的玩家都可以获得。您可以在下面看到一个游戏示例：

研究人员的发现很有趣，但也许并不令人惊讶：人工智能代理改变了他们的行为，变得更加合作或敌对，这取决于上下文。

例如，在收集游戏中，当苹果供应充足时，特工们并不真的费心用激光束互相攻击。但是，当库存减少时，爆炸的数量增加了。也许最有趣的是，当一个计算能力更强的代理被引入到混合中时，不管有多少个苹果，它都倾向于攻击另一个玩家。也就是说，更聪明的人工智能决定在任何情况下都要有侵略性。

这是否意味着人工智能代理认为好斗是“最佳”策略？不一定。研究人员假设，更先进的人工智能增加了攻击行为，仅仅是因为攻击行为本身在计算上具有挑战性。代理必须将其武器对准另一个玩家并跟踪他们的移动——这些活动需要更多的计算能力，并且占用宝贵的苹果收集时间。除非代理知道这些策略会有回报，否则合作就更容易了。

相反，在Wolfpack游戏中，AI代理越聪明，就越有可能与其他玩家合作。正如研究人员所解释的，这是因为学习与其他玩家合作来追踪和放牧猎物需要更多的计算能力。

研究结果显示，人工智能主体的行为会根据他们所面对的规则而改变。如果这些规则奖励攻击行为（“击打该玩家以获得更多苹果”），人工智能将更具攻击性；如果他们奖励合作行为（“一起工作，你们都会得到分数！）他们会更合作。

这意味着未来控制人工智能代理的部分挑战将是确保制定正确的规则。正如研究人员在他们的博客文章中总结的那样：“作为（这项研究的）结果，我们也许能够更好地理解和控制复杂的多智能体系统，如经济、交通系统或我们星球的生态健康——所有这些都取决于我们的持续合作。”

谷歌的深谋远虑掌握了围棋的游戏