谷歌的深謀遠慮將人工智慧與人工智慧進行對比，看看它們是戰鬥還是合作

在未來，人類社會的許多方面很可能被人工智慧部分或全部控制。人工智慧計算機代理可以管理從普通系統（例如，紅綠燈）到複雜系統（例如，一個國家的整個經濟），但撇開他們是否能做好自己的工作這個問題不談，還有另一個挑戰：這些代理是否能彼此友好相處？如果一個AI的目標與另一個AI的目標衝突，會發生什麼？他們會戰鬥，還是一起工作？...

谷歌的人工智慧子公司DeepMind在今天發表的一項新研究中一直在探索這個問題。該公司的研究人員決定測試人工智慧代理如何在一系列“社會困境”中相互作用。這是一個相當通用的術語，用於描述個人可以從自私中獲利的情況，但如果每個人都自私，每個人都會輸。其中最著名的例子是囚徒困境，兩個人可以選擇為了一個獎品而背叛對方，但如果兩個人都選擇了這個選項，他們就輸了。

正如DeepMind的一篇博文中所解釋的，該公司的研究人員測試了人工智慧代理在這種情況下的表現，將他們放入一對非常基本的影片遊戲中。

在第一個遊戲，收集，兩個玩家必須收集蘋果從一個中心堆。他們可以選擇用鐳射束“標記”另一個玩家，暫時將他們從遊戲中移除，並給第一個玩家收集更多蘋果的機會。您可以在下麵看到此遊戲的示例：

在第二個遊戲，狼群，兩個玩家必須在充滿障礙的環境中獵殺第三個。點數不僅由捕獲獵物的玩家獲得，而且當獵物被捕獲時，所有靠近它的玩家都可以獲得。您可以在下麵看到一個遊戲示例：

研究人員的發現很有趣，但也許並不令人驚訝：人工智慧代理改變了他們的行為，變得更加合作或敵對，這取決於上下文。

例如，在收集遊戲中，當蘋果供應充足時，特工們並不真的費心用鐳射束互相攻擊。但是，當庫存減少時，爆炸的數量增加了。也許最有趣的是，當一個計算能力更強的代理被引入到混合中時，不管有多少個蘋果，它都傾向於攻擊另一個玩家。也就是說，更聰明的人工智慧決定在任何情況下都要有侵略性。

這是否意味著人工智慧代理認為好鬥是“最佳”策略？不一定。研究人員假設，更先進的人工智慧增加了攻擊行為，僅僅是因為攻擊行為本身在計算上具有挑戰性。代理必須將其武器對準另一個玩家並跟蹤他們的移動——這些活動需要更多的計算能力，並且佔用寶貴的蘋果收集時間。除非代理知道這些策略會有回報，否則合作就更容易了。

相反，在Wolfpack遊戲中，AI代理越聰明，就越有可能與其他玩家合作。正如研究人員所解釋的，這是因為學習與其他玩家合作來追蹤和放牧獵物需要更多的計算能力。

研究結果顯示，人工智慧主體的行為會根據他們所面對的規則而改變。如果這些規則獎勵攻擊行為（“擊打該玩家以獲得更多蘋果”），人工智慧將更具攻擊性；如果他們獎勵合作行為（“一起工作，你們都會得到分數！）他們會更合作。

這意味著未來控制人工智慧代理的部分挑戰將是確保制定正確的規則。正如研究人員在他們的部落格文章中總結的那樣：“作為（這項研究的）結果，我們也許能夠更好地理解和控制複雜的多智慧體系統，如經濟、交通系統或我們星球的生態健康——所有這些都取決於我們的持續合作。”