谷歌的人工智慧研究人員說，這是機器人安全的五個關鍵問題

谷歌擔心人工智慧。不，並不是說它會變得有知覺並接管世界，而是說，一個樂於助人的家庭機器人可能會不小心用刀刺傷它的主人。該公司最新的人工智慧研究論文以“人工智慧安全中的具體問題”為題對此問題進行了深入研究。不過，真的，這隻是一種別出心裁的說法，“我們如何阻止這些恐怖機器人在睡夢中殺死我們。”...

谷歌擔心人工智慧。不，並不是說它會變得有知覺並接管世界，而是說，一個樂於助人的家庭機器人可能會不小心用刀刺傷它的主人。該公司最新的人工智慧研究論文以“人工智慧安全中的具體問題”為題對此問題進行了深入研究。不過，真的，這隻是一種別出心裁的說法，“我們如何阻止這些恐怖機器人在睡夢中殺死我們。”

未來機器人**商面臨的五大關鍵問題

為了回答這個讓人頭疼的問題，谷歌的電腦科學家們研究了五個“實際研究問題”——程式設計師在開始建立下一個johny5之前需要考慮的關鍵問題。出於公共關係的原因，本文提出了這些問題，因為它們可能涉及到一個假想的清潔機器人，但實際上，它們是要應用到任何現實世界的人工智慧代理，將控制一個機器人，將與人類互動。

問題如下：

避免負面影響：如何阻止一個機器人在狂熱地尋找胡亂翻地板的過程中撞翻書架？
避免獎勵駭客：如果一個機器人被程式設計為喜歡打掃你的房間，你如何阻止它弄亂了地方，這樣它就可以感覺到再次打掃房間的樂趣？
可伸縮的監督：你給機器人多少決策權？它是否需要每次移動一個物體來清潔你的房間時都問你，或者只有當它移動你放在床下的那個特別的花瓶時才問你，而且因為某種原因從來沒有放過花？
安全探索：你如何教機器人好奇心的極限？谷歌的研究人員舉了一個機器人的例子，它正在學習在哪裡可以拖地。你怎麼讓它知道拖新地板是好的，但它不應該把拖把插在電源插座裡？
分散式轉移的穩健性：如何確保機器人尊重他們所處的空間？在你臥室裡放出來的清潔機器人和在工廠裡清掃的機器人會有不同的行為，但是它怎麼知道這兩者之間的區別呢？

所以，這些並不像艾薩克·阿西莫夫的機器人三定律那麼簡單，但我們不應該期待。畢竟，這些都是問題，不是答案。

其中有些問題似乎很簡單。例如，對於最後一個，您可能只想程式設計一個具有許多預設模式的bot。當它發現自己在一個工業環境中（它會知道，因為你會告訴它），它可以切換到工廠模式，也許會更努力地清掃。

但其他問題是如此的背景沉重，幾乎不可能為每一個場景預先規劃響應。考慮一下“安全探索”問題，論文將其掩蓋為“採取看似不理想的行動[…]，但有助於代理瞭解其環境。”機器人代理當然需要在其參考範圍之外採取行動來瞭解世界，但當他們這樣做時，你如何減輕潛在的傷害？

Boston Dynamics

這篇論文提出了一系列的方法，包括建立機器人智慧體在撞擊現實世界之前可以探索的模擬“有界探索”的規則，限制機器人的運動到一個預定義的空間，一個可能已經被機器人證明可能的錯誤；還有好的、老式的人類監督——讓機器人在採取超出其職權範圍的行動之前，先與處理者核實。

你可以想象，每種方法都有自己的優缺點，谷歌的論文並不是要提出一個突破性的解決方案——它只是概述了更廣泛的問題。但正如該公司在其研究部落格中指出的那樣，這些實際挑戰才是真正的機器人安全風險。

如果你願意的話，擔心有知覺的人工智慧，但是像這樣的問題更直接

儘管像埃隆·馬斯克和斯蒂芬·霍金這樣的人物提高人們對人工智慧危險的認識是好的，但大多數電腦科學家都同意，這些問題還很遠，很遠。在我們擔心人工智慧變得有殺傷力之前，我們需要確保可能在工廠和家庭中工作的機器人足夠聰明，不會意外地殺死或殘害人類(這已經發生了，而且肯定還會發生。）

谷歌在這一切中的股份也很有趣。該公司可能會將2013年收購的雄心勃勃的機器人硬體**商波士頓動力公司（Boston Dynamics）**，但它仍在繼續向各種人工智慧專案投入資金和資源。正是這項工作，以及來自大學和競爭對手公司的研究，將為軟體大腦提供物理機器人動畫的基礎。確保這些大腦思維正常不是一件小事。