上個月在倫敦舉行的一次深度學習會議上，與會者談到了一個特別值得註意的反覆出現的主題：謙遜，或者至少，謙遜的必要性。

雖然像谷歌這樣的公司自信地宣稱，我們生活在一個“人工智慧第一時代”，機器學習在語音和影象識別等領域有了新的突破，但那些處於人工智慧研究前沿的公司卻熱切地指出，還有很多工作要做。僅僅因為我們有聽起來像電影裡會說話的電腦的數字助理，並不意味著我們離創造真正的人工智慧更近了。

問題包括需要大量的資料來驅動深度學習系統；我們無法創造出擅長於多個任務的人工智慧；我們對這些系統如何工作缺乏洞察力。2016年的機器學習創造了輝煌的工具，但它們很難解釋，訓練成本很高，甚至對創造者來說也常常很神祕。讓我們更詳細地看看這些挑戰：

首先你得到資料，然後你得到人工智慧

我們都知道，人工智慧需要資料來瞭解世界，但我們往往忽略了涉及的資料量。謝菲爾德大學（University of Sheffield）機器學習教授、亞馬遜人工智慧團隊成員尼爾•勞倫斯（Neil Lawrence）表示，這些系統不僅需要比人類更多的資訊來理解概念或識別特徵，還需要數十萬倍的資訊如果你看看所有的應用領域，深度學習是成功的，你會發現它們是我們可以獲取大量資料的領域。在這裡，像Google和Facebook這樣的大型科技公司可以訪問堆積如山的資料（例如，你在Android上的語音搜尋），這使得建立有用的工具變得更加容易。

勞倫斯說，現在的資料就像工業革命初期的煤炭。他舉了託馬斯·紐科門（Thomas Newcomen）的例子，他是一個英國人，1712年發明瞭以煤為燃料的蒸汽機的原始版本，比詹姆斯·瓦特早了60年。紐科門的發明不是很好：與瓦特的機器相比，它效率低，執行成本高。這意味著它只能在煤田工作——那裡的燃料充足，足以剋服機器的缺陷。

勞倫斯認為，全世界都有數百名新人在研究自己的機器學習模型。它們可能是革命性的，但如果沒有資料讓它們發揮作用，我們永遠不會知道。像谷歌、Facebook和微軟這樣的大型科技公司是今天的煤礦。它們擁有豐富的資料，因此能夠執行效率低下的機器學習系統，並改進它們。規模較小的初創公司可能有好主意，但如果沒有資料，他們將無法堅持到底。

“強迫人們生病獲取資料被認為是不道德的。”

當你審視那些資料難以獲取的領域時，問題就更大了。以醫療保健為例，人工智慧被用於機器視覺任務，如在X射線掃描中識別腫瘤，但數字化資料可能是稀疏的。正如勞倫斯所指出的，這裡的棘手之處在於“通常認為強迫人們生病來獲取資料是不道德的。”（這就是為什麼谷歌和英國國家衛生服務局之間達成的協議如此重要。）勞倫斯說，問題其實不是找到分發資料的方法，但是要讓我們的深度學習系統更高效，能夠用更少的資料工作。就像瓦特的改進一樣，這可能還需要60年。

專門化是為昆蟲-人工智慧需要能夠多工

深度學習還有一個關鍵問題：事實上，我們現有的系統基本上都是**學者。谷歌DeepMind研究公司的科學家Raia Hadsell說，一旦他們接受了訓練，他們在識別貓或玩Atari遊戲等任務上的效率會非常高。但是“世界上沒有神經網路，現在也沒有可以訓練的方法來識別物體和影象，玩太空入侵者，聽音樂。”

“我們甚至不能學習多個遊戲。”

不過，問題更嚴重。當谷歌的DeepMind在去年2月宣佈它已經建立了一個可以擊敗49款Atari遊戲的系統時，這無疑是一個巨大的成就，但是每次它擊敗一款遊戲時，這個系統都需要重新訓練才能擊敗下一款。正如Hadsell所指出的，你不能試圖同時學習所有不同的遊戲，因為規則最終會互相干擾。你可以一次只學一個，但最終你會忘記你對以前比賽的瞭解。”為了獲得人工通用智慧，我們需要一些能夠學習多種任務的東西但我們甚至無法學習多個遊戲。”

解決這個問題的方法可能是一種叫做漸進式神經網路的方法——這意味著將不同的深度學習系統連線在一起，這樣它們就可以傳遞特定的資訊。在六月份發表的一篇關於這個話題的論文中，Hadsell和她的團隊展示了他們的漸進式神經網路是如何適應變化不大的乒乓球遊戲的（在一個版本中，顏色是顛倒的；在另一個實驗中，控制被翻轉）比正常的神經網路快得多，後者必須從頭開始學習每一個遊戲。

這是一種很有前途的方法，在最近的實驗中，它甚至被應用到了機器人手臂上——將他們的學習過程從幾周加速到一天。然而，也有很大的侷限性，Hadsell指出，漸進式神經網路不能簡單地不斷地向他們的記憶中新增新的任務。她說，如果你一直把系統連在一起，遲早你會得到一個“太大而不易處理”的模型。在這種情況下，管理的不同任務本質上是相似的——創造一種人類水平的智慧，可以寫詩、解微分方程、設計椅子，完全是另外一回事。

只有你能表現出你的工作能力，這才是真正的智慧

另一個主要挑戰是理解人工智慧首先是如何得出結論的。神經網路對於觀察者來說通常是不可理解的。儘管我們知道它們是如何組合在一起的，也知道其中的資訊，但它們做出某些決定的原因通常無法解釋。

我在地板上找窗簾，不是在窗戶上

弗吉尼亞理工大學（Virginia Tech）的一個實驗很好地證明瞭這一問題。研究人員創造了一個基本上是神經網路的眼睛跟蹤系統，它記錄了計算機首先看到的畫素。研究人員展示了臥室的神經網路圖片，並問人工智慧：“什麼東西遮住了窗戶？”他們發現人工智慧沒有看窗戶，而是看地板。然後，如果它找到了一張床，它會給出答案“窗簾遮住了窗戶”。這恰好是對的，但這隻是因為網路訓練的資料有限。根據展示的圖片，神經網路推斷如果它在臥室裡，窗戶上會有窗簾。所以當它看到一張床時，它就不再看了——它的眼睛裡看到了窗簾。當然合乎邏輯，但也很愚蠢。很多臥室沒有窗簾！

眼動追蹤是一種對內部工作原理進行瞭解的方法，但另一種可能是從一開始就在深層學習系統中建立更多的連貫性。倫敦帝國理工學院（Imperial College London）認知機器人學教授（也是前機器科學顧問）默裡•沙納漢（Murray Shanahan）說，實現這一目標的一種方法是重新審視一種古老的、不流行的人工智慧，即所謂的符號人工智慧或老式人工智慧（GOFAI）。這是建立在這樣一個假設的基礎上的，即大腦中發生的事情可以簡化為基本邏輯，世界是由一個複雜的符號字典來定義的。透過組合這些符號——代表動作、事件、物件等——你基本上可以綜合思考(如果以這種方式建立人工智慧聽起來像是一項可怕的、不可思議的任務，那麼想象一下在仍然執行在磁帶上的計算機上嘗試它吧。）

沙納漢的建議是，我們把歌菲的象徵性描述與深度學習結合起來。這將為系統提供一個瞭解世界的起點，而不僅僅是向它們提供資料並等待它們註意到模式。他說，這不僅可以解決人工智慧的透明度問題，還可以解決Hadsell提出的遷移學習問題。”沙納漢說：“可以很好地說，突破和乒乓球相似，因為他們都有球拍和球，但人類的認知水平使這種聯絡更具戲劇性。”就像原子結構和太陽系結構之間的聯絡。”

Shanahan和他在Imperial的團隊正在研究這種新方法（他們稱之為深層符號強化學習），併發表了一些小實驗。它仍處於初級階段，找出它是否能擴充套件到更大的系統和不同型別的資料將很有幫助。然而，它完全有可能發展成更多的東西。畢竟，深度學習本身是人工智慧的一個不受歡迎的部門，直到研究人員開始利用近年來提供的廉價資料和豐富的處理能力。也許是時候從人工智慧的過去的另一個爆炸嘗試在一個新的環境中的技能。

谷歌的深謀遠慮主宰了圍棋遊戲