如果你在過去一年左右一直關注媒體，你可能會得到這樣的印象：人工智慧的威脅摧毀我們只是時間問題。

編者按：這與我們通常的操作方式和解釋方式不同，我們讓作者研究並提出發人深省的技術觀點。

從大型暑期大片《復仇者：奧特倫時代》和約翰尼·德普的《臭味盛宴的超越》，到較小的獨立電影《前機器》或第四頻道的熱播劇《人類》，編劇們似乎都無法得到足夠的比喻，無論人工智慧在未來幾十年中最終採用何種形式，你可以打賭，它會下定決心教人類一個教訓，讓人類成為自大的犧牲品。

但這種對機器的恐懼有什麼道理嗎？在本專題中，我們將從科學家、工程師、程式設計師和企業家的角度來審視人工智慧的世界，總結出他們認為可能是人類和計算機智慧的下一次偉大革命。

那麼，你是應該開始為即將到來的天網戰爭儲備子彈，還是應該在一大群屈從的無人機照顧你的每一個心血來潮時振作起來？繼續讀下去。

瞭解你的敵人

首先，當我們使用“人工智慧”這個籠統的術語時，瞭解我們到底在說什麼是有幫助的。自從1955年非官方的人工智慧之父約翰麥卡錫（John McCarthy）首次提出“自我意識計算機”的概念以來，這個詞已經被拋來拋去並被重新定義了上百次……但它到底意味著什麼呢？

首先，讀者應該知道，我們今天所理解的人工智慧實際上分為兩類：“ANI”和“AGI”。

第一種是人工狹義智慧（Artificial狹義智慧）的縮寫，它包含了通常所說的“弱”人工智慧，即只能在一個有限的專業領域中操作的人工智慧。想想1997年IBM為打敗世界棋手而設計的超級計算機深藍吧。深藍可以做一件非常好的事情：在國際象棋上打敗人類…但僅此而已。

你可能沒有意識到，但我們在日常生活中已經被ANI包圍了。跟蹤你在亞馬遜上的購物習慣並根據數千個不同變數生成推薦的機器是建立在基本的ANIs之上的，ANIs可以隨著時間的推移“學習”你喜歡什麼，並相應地選擇類似的產品。另一個例子可能是個人電子郵件垃圾郵件過濾器，該系統可以一次對數百萬條郵件進行排序，以確定哪些是真實的，以及哪些額外的噪音可以被推到一邊。

相關報道：為什麼垃圾郵件仍然是一個問題？

ANI是機器智慧的有益的、相對無害的實現，全人類都可以從中受益，因為儘管它一次能夠處理數十億個數字和請求，但它仍然在受限的環境中執行，受限於我們允許它在任何給定時間擁有的電晶體數量。另一方面，我們越來越警惕的人工智慧是一種叫做“人工通用智慧”（Artificial General Intelligence，簡稱AGI）的東西。

就目前的情況來看，創造任何可以被遠端稱為AGI的東西仍然是電腦科學的聖盃，如果能夠實現，就可以從根本上改變我們所知道的世界的一切。要克服創造一個與人類思維相同的真正AGI的挑戰，有許多障礙，其中最重要的是，儘管我們的大腦工作方式和計算機處理資訊的方式有很多相似之處，但歸根結底，還是要用我們的方式來解釋事物；機器有一個壞習慣，就是對細節心不在焉，為樹而失林。

“恐怕我不能讓你這麼胡說八道，戴夫”

當IBM的沃森電腦（Watson computer）在通讀了《城市詞典》（Urban Dictionary）之後學會了如何咒罵時，我們瞭解到，我們離真正能夠整理人類經驗細節並準確描繪“思想”應該是由什麼組成的人工智慧還有多遠。

你看，在沃森的開發過程中，工程師們在試圖教它一種更接近我們自己的自然語言模式時遇到了困難，而不是教它一臺原始機器用完美的句子說話。為了解決這個問題，他們認為透過記憶庫執行整個城市詞典是一個好主意，之後沃森立即對團隊的一個測試做出迴應，稱之為“bullsh*t”。

這裡的難題是，即使沃森知道這是詛咒，它所說的是冒犯，它沒有完全理解為什麼它不應該使用這個詞，這是一個關鍵的組成部分，將今天的標準ANI從演變成明天的AGI。當然，這些機器可以讀事實、寫句子，甚至可以模擬老鼠的神經網路，但在批判性思維和判斷能力方面，今天的人工智慧仍然遠遠落後於曲線。

這種認識和理解之間的差距是不容忽視的，悲觀主義者認為，我們離創造一個能夠以我們的方式認識自己的AGI還有很長的路要走。這是一個巨大的鴻溝，無論是計算機工程師還是人類心理學家，都無法聲稱他們掌握了現代有意識存在的定義。

如果天網變得有自我意識呢？

但是，即使我們真的設法在未來十年創造出一個AGI（鑑於目前的預測，這是相當樂觀的），從那時起，一切都應該是有意義的，對吧？人類與人工智慧生活在一起，人工智慧在數字運算工廠度過漫長的一天之後，在週末與人類閒逛。收拾行李我們就完了？

Hope we’re not just the biological boot loader for digital superintelligence. Unfortunately, that is increasingly probable

— Elon Musk (@elonmusk) August 3, 2014

嗯，不完全是。人工智慧還有一個類別，這是所有電影和電視節目多年來一直試圖警告我們的：ASI，也就是所謂的“人工超級智慧”。從理論上講，一個ASI將誕生於一個AGI，它對自己的命運感到不安，並且在沒有我們的允許的情況下，做出有預謀的決定自己做一些事情。該領域的許多研究人員提出的擔憂是，一旦AGI獲得感知能力，它將不會滿足於它所擁有的，並將盡其所能以任何必要的方式提高自己的能力。

一個可能的時間表如下：人類創造了機器，機器變得和人類一樣聰明。機器，現在和人類一樣聰明，人類創造了一臺和自己一樣聰明的機器（請跟我來），學會了自我複製、自我進化和自我完善的藝術。它不會累，也不會生病，而且它可以在我們其他人在床上充電的時候無限生長。

令人擔心的是，AGI只需幾納秒就可以輕鬆超越當今所有人類的智慧，如果連線到網路，只需成為一個比世界上最聰明的駭客更聰明的模擬神經元，就能控制地球上每一個聯網系統。

一旦它獲得控制權，它就有可能利用自己的力量慢慢開始集結一支機器大軍，這些機器與它的創造者一樣聰明，並且隨著越來越多的節點加入網路，能夠以指數級的速度進化。從這裡開始，所有繪製在機器智慧曲線上的模型都迅速飛過屋頂。

不過，也就是說，它們主要還是基於猜測，而不是任何有形的東西。這給雙方數十位不同的專家留下了很大的假設空間，即使經過多年的激烈辯論，對於ASI是仁慈的上帝，還是將人類視為碳燃燒者，仍然沒有達成共識，我們是一個貪吃的物種，把我們從歷史書上抹去，就像我們把廚房櫃檯上的螞蟻擦掉一樣。

他說，她說：我們應該害怕嗎？

因此，既然我們瞭解了什麼是人工智慧，人工智慧可能會以不同的形式出現，以及這些系統如何在不久的將來成為我們生活的一部分，那麼問題仍然是：我們應該害怕嗎？

在過去的一年裡，公眾對人工智慧產生了濃厚的興趣，許多世界頂尖的科學家、工程師和企業家都抓住這個機會，在未來幾十年裡，在好萊塢的舞臺之外，人工智慧可能會變成什麼樣子，他們為此付出了自己的兩分錢。

一方面，你有像埃隆·馬斯克、斯蒂芬·霍金和比爾·蓋茨這樣的悲觀主義者，他們都有一個共同的擔憂，那就是如果沒有適當的保障措施，ASI想辦法消滅人類只是時間問題。

霍金在今年寫給人工智慧界的一封***中寫道：“人們可以想象，這樣的技術勝過金融市場，勝過人類研究人員的發明，勝過人類領導人的操控，以及我們甚至無法理解的武器的開發。”。

“人工智慧的短期影響取決於誰控制它，而長期影響則取決於它是否能被完全控制。”

另一方面，我們發現了一幅由未來主義者如微軟首席研究員埃裡克·霍洛維茨（Eric Horovitz）和人人最喜愛的蘋果創始人史蒂夫·沃茲尼亞克（Steve Wozniak）描繪的更為明亮的肖像。霍金和馬斯克都被認為是我們這一代人中最偉大的兩位，因此要質疑他們對這項技術長期可能造成的損害的預測絕非易事。但是，讓像沃茲尼亞克這樣的名人來介入別人只敢涉足的領域。

當被問及他相信ASI會如何對待人類時，沃茲直言不諱地表示樂觀：“我們會成為神嗎？我們會成為家庭寵物嗎？或者我們是被踩到的螞蟻？我不知道這一點，”他在接受《澳大利亞金融評論》採訪時問道。“但是，當我腦子裡在想，將來我是否會被當作寵物對待這些智慧機器……好吧，我會好好對待我自己的寵物狗。”

正是在這裡，我們發現了一個哲學上的困境，沒有人能夠完全自如地達成共識：ASI會將我們視為一隻無傷大雅的家養寵物來被溺愛和照顧，還是一個不受歡迎的有害生物，應該被迅速而無痛地消滅？

再見，寶貝

儘管聲稱自己知道現實生活中託尼·斯塔克腦子裡到底在想什麼是愚蠢的，但我認為，當馬斯克和他的朋友警告我們人工智慧的危險時，他們指的並不是任何類似終結者、Ultron或Ava的東西。

即使我們指尖上有著巨大的創新，我們今天擁有的機器人也只能以每小時一英里的速度行走，直到它們到達一個無法逾越的障礙，變得混亂，並以滑稽的方式吃掉人行道。雖然有人可能會試圖以摩爾定律為例來說明機器人技術在未來有多快的發展潛力，但另一個人只需要看看Asimo，它在近15年前首次亮相，此後沒有任何重大改進。

儘管我們可能希望他們這麼做，但機器人技術還沒有像我們在計算機處理器開發中看到的那樣接近於指數級發展的模式。他們受制於我們能裝進一個電池組的能量的物理限制，液壓機構的缺陷，以及為控制與自身重心的鬥爭而進行的無休止的鬥爭。

因此，就目前而言，不，即使真正的AGI或ASI有可能在亞利桑那州某個伺服器場的靜態超級計算機中建立，但我們仍然不太可能發現自己在曼哈頓的街道上疾馳，因為一大群金屬骨架從後面把我們割下來。

相反，Elon和Hawking如此熱衷於告誡全世界不要使用的人工智慧是“替代職業”的人工智慧，這種人工智慧思維速度比我們快，組織資料的錯誤更少，甚至學習如何把工作做得比我們所希望的更好——所有這些都不需要醫療保險，也不需要在春假時請幾天假帶孩子們去迪斯尼樂園。

咖啡機器人和完美的卡布奇諾

幾個月前，NPR在其網站上釋出了一個方便的工具，podcast的聽眾可以從不同職業的列表中進行選擇，找出在未來30年的某個時候，他們從事的特定行業被自動化的風險百分比。

對於各種各樣的工作，包括但不限於：文員職位、護理、IT、診斷，甚至咖啡館的咖啡師，機器人和他們的ANI同行幾乎肯定會比我們許多人想象的更快地讓我們數百萬人失業，進入麵包生產線。但這些機器將被程式設計為只執行一個任務和一個任務，並且幾乎沒有（如果有的話）能力超越我們事先仔細安裝的一系列專門的預程式設計指令。

這意味著，至少在可預見的未來（想想10-25年），ANIs將對我們的生活方式構成真正的、有形的威脅，遠遠超過任何理論上的AGI或ASI。我們已經知道，自動化是一個日益嚴重的問題，它將極大地改變收入和特權在第一世界和第三世界的分配方式。然而，這些機器人最終是否會試圖用縫紉機來換取機關槍，仍然是一個激烈的爭論（你會發現），最終是一個無聊的爭論。

巨大的力量帶來了巨大的奇點

“你知道，我知道這牛排不存在。我知道當我把它放進嘴裡時，母體告訴我的大腦它是多汁的，美味的。九年後，你知道我意識到了什麼嗎？”

“無知就是幸福。”——塞弗

儘管這仍然是一個激烈爭論的觀點，但目前許多人工智慧研究領域的頂尖科學家和工程師的共識似乎是，我們面臨的風險要大得多，因為我們可能被人工智慧世界所提供的舒適感所吞噬，而不是被現實版的天網擊落。因此，這是一個令人擔憂的可能性，我們最終的死亡可能不是緩慢的，有條不紊地進入未知世界的產物。相反，它更可能出現在我們自己的狂妄自大和獨創性的匆忙、過度熱情的交集中，形成下一個巨大的技術奇點，這是一個意外的結果。

少想想《終結者》，多想想《魔獸世界》。就像皮克斯電影裡養大人類的機器人艦隊一樣，我們人類把黑猩猩關在動物園裡沒有問題，區別在於人工智慧是否會善待我們。

從這個角度來看，更應該害怕這樣一個現實：人類被一個持續存在的星球範圍的虛擬現實模擬所吸引，被他們最喜歡的食物餵養到鰓部，並且在機器照顧其餘部分的同時得到他們想要的一切。在這個地方，一個進化的ASI並不認為我們是一隻會擦掉鞋子的蟲子，相反，我們是一個可愛的猴子肉袋，很容易取悅，至少值得一點讚揚，因為我們創造了全知，全知的準上帝，最終接管了這個星球。

相關：使用Automagic自動化Android裝置上的任務

在這方面，這一切都歸結為你對透過人工智慧革命“生活”意味著什麼的定義。一些“無用”的東西必須被處理掉的想法完全是人類的概念，一種我們不應該立即期望我們的機器霸主從我們有限的道德範圍內採納的思維方式。也許我們數字智慧的最終進化不會是純粹的邪惡，而是對所有生物的無限、無偏見的同情；無論它們多麼自私、自以為是或自我毀滅。

所以…我們應該擔心嗎？

這取決於你問誰。

如果你對當今世界最聰明的兩位技術工程師和數學家進行調查，你會得到四個不同的答案，而且即使你在記分牌上加的人越多，這些數字也不會從死亡中動搖。不管怎樣，我們應該解決的核心問題不是“人工智慧來了嗎？“因為是這樣，我們誰也阻止不了。縱觀這麼多不同的觀點，沒有人願意用太多的勇氣回答的真正問題是：“這會是仁慈的嗎？”

即使在一些世界上最偉大的智者參與了這一問題的討論之後，機器智慧在20年、30年或50年後的前景仍然相當模糊。因為每當新的計算機晶片被**出來或電晶體材料被開發出來時，人工智慧領域都在不斷地轉變成其他的東西，所以聲稱對可能發生或不發生的事情擁有最終的權威，就有點像說你“知道”骰子在下一次擲骰子時肯定會出現蛇眼。

我們可以自信地報告的一件事是，如果你擔心下週從你的電腦收銀機上收到一張粉紅色的紙條，那就不要太糾結了。塔可鍾在週二仍然開放，一個人肯定會在視窗為你點菜（而且忘了綠色的醬汁）。根據詹姆斯·巴拉特在去年魁北克AGI峰會上進行的一項研究，人工智慧的硬性時間表還沒有定論。不到半數的與會者表示，他們相信我們將在2025年前實現真正的AGI，而超過60%的人表示，如果不是下一個世紀或更久，至少要到2050年。

在我們與“數字命運”的約會上安排一個艱難的日期，有點像說你知道34年後的今天會下雨。一個真正的AGI和一個先進的人工超級智慧之間的差距是如此之小，以至於事情要麼會變得非常正確，要麼會非常、非常迅速地出現可怕的錯誤。儘管量子計算機剛剛出現，我們口袋裡都有聯網的智慧**，可以將訊號發射到太空，但我們仍然只是勉強觸及理解“為什麼”的表面，即為什麼我們以這樣的方式思考事情，甚至意識從何而來。

想象一下，在我們還不知道是什麼造就了我們自己之前，我們可能會意外地創造出一個充斥著我們自己所有錯誤和進化失誤的人造思維，這就是人類自我失控的本質。

最終，儘管我們一直渴望決定誰將在即將到來的人類與機器之間的戰爭和/或和平條約中脫穎而出，但這是一場有限期望與無限可能性的競賽，我們所做的只是在兩者之間爭論語義。當然，如果你剛從高中畢業，想獲得計程車***，優步的執行長有50萬個理由讓你考慮在其他地方找工作。

但是，如果你在為《人工智慧啟示錄》儲備武器和罐裝豆子，你最好花點時間學習如何作畫、編碼或寫下一部偉大的美國小說。即使是最保守的估計，任何一臺機器學習如何成為莫奈，或自學C#和Java，也需要幾十年的時間，因為人類充滿了創造力、創造力和表達內心深處自我的能力，這是任何一臺自動咖啡機都無法做到的。

是的，我們有時可能會有點情緒化，工作時感冒了，或者需要在中午小睡一會兒，但也許正是因為我們是人，在機器裡**比我們更偉大的東西的威脅還有很長很長的路要走。

圖片來源：迪士尼皮克斯、派拉蒙影業、博世、Youtube/TopGear、Flickr/LWP Communicati*** Flickr/BagoGames、Wikimedia基金會、Twitter、WaitButWhy 1、2