我們應該擔心人工智慧的潛在危險嗎？

麻省理工學院的物理學家馬克斯·泰格馬克說。Tegmark是未來生命研究所（Future of Life Institute）的聯合創始人，這是一家總部位於波士頓的研究機構，專門研究全球災難性風險，特別關註人工智慧。他也是今天出版的《生活3.0》的作者。life3.0概述了人工智慧安全研究的現狀，以及作為一個社會，如果我們想讓這項技術得到更好的應用，我們需要回答的問題。

泰格馬克不相信末日終結者的場景是不可避免的，但他認為我們對人工智慧的思考也不夠。他不是唯一關心的人。史蒂芬·霍金多年來一直敦促研究人員更加關註人工智慧的安全性。微軟與elonmusk合作建立了OpenAI，一個致力於同一問題的組織。馬斯克在2015年也向FLI捐贈了1000萬美元，他還在Twitter上推薦life3.0。

邊緣與泰格馬克聊了他的書，我們應該做什麼，為什麼他認為圍繞人工智慧的討論是我們這個時代最重要的一個。為了清晰起見，這篇採訪經過了簡單的編輯和濃縮。

這本書的書名是指什麼？什麼是“生活3.0”，生活1.0和2.0是什麼？

嗯，我廣義地認為生命是一個能保持其複雜性並繁衍生息的過程。生命1.0就像細菌。細菌是以簡單演算法的形式組合在一起的小原子，可以控制它們的行為。例如，每當細菌註意到前面的糖濃度比後面的高時，它就會向前走，但如果它註意到前面的糖濃度比後面的少，它就會轉過身來。但是細菌在其一生中永遠不會真正學到任何東西。細菌能夠逐漸獲得更好的軟體或學習的唯一方法是透過幾代人的進化。

我們人類就是我所說的“生命2.0”。我們仍然有我們的硬體，或身體，主要是由進化設計的，但我們可以學習。我們有巨大的力量將新的“軟體”上傳到我們的頭腦中。例如，如果你決定要成為一名律師，你可以去法學院，法學院需要將新的演算法上傳到你的大腦中，這樣你就可以突然擁有律師的專業知識。正是這種設計我們自己的軟體而不是等待進化的能力，使我們能夠主宰這個星球，創造現代文明和文化。文化進化正是源於這樣一個事實：我們可以在有生之年從別人那裡複製思想和知識。

life3.0完全擺脫了進化的桎梏，不僅能設計軟體，還能設計硬體。換言之，如果我們創造出至少和我們一樣聰明的人工智慧，那麼它不僅可以設計自己的軟體讓自己學習新東西，而且總是有人試圖交換升級後的記憶體來記憶更多的東西，或者獲得更多的計算能力。相比之下，人類可以植入人工心臟起搏器或人工膝蓋，但我們無法改變任何真正戲劇性的事情。你永遠不可能讓自己高出一百倍或思考速度快上千倍。我們的智慧是由黏糊糊的生物神經元組成的，從根本上說，它受到母親產道中大腦質量大小的限制，但人工智慧不是。

有些人仍然懷疑超級智慧會發生，但你似乎堅信它會發生，這隻是時間問題。你是個物理學家，從這個角度看你是怎麼看的？

我認為大多數人認為智力是一種神祕的東西，僅限於生物有機體。但從我作為物理學家的角度來看，智慧只是簡單的資訊處理，由基本粒子根據物理定律進行運動。在物理定律中，沒有任何東西說我們不能**比我們聰明得多的機器，也沒有任何東西說智力需要由有機物來**。我不認為有什麼祕密醬絕對需要碳原子或血液。

我在書中很有意思，思考物理定律的極限是什麼，你能有多聰明。簡而言之，它是天高的，比我們現在的位置高出數百萬倍。我們什麼也沒看到。我們的宇宙有巨大的潛力被喚醒更多，我認為這是一個鼓舞人心的想法，來自宇宙學背景。

我知道FLI確實在處理核裁軍等問題，但它把傳播人工智慧安全作為首要目標。同樣，你認為圍繞人工智慧安全的對話是“最重要的對話”。為什麼？為什麼它比氣候變化更重要？

我們在降低核戰爭風險方面做了很多工作，但人工智慧的美好未來問題絕對比所有其他事情更重要。以氣候變化為例：是的，它可能會在50年或100年內給我們帶來巨大的問題，但許多領先的人工智慧研究人員認為，超人智慧將在這之前，在幾十年內到來。

這顯然比氣候變化更重要。首先，如果這種情況發生，它將徹底改變我們所知道的生活。它要麼幫助你前所未有地茁壯成長，要麼成為我們所經歷過的最糟糕的事情。第二，如果進展順利，我們可以用它來解決氣候變化和所有其他問題。如果你關心貧困、社會公正、氣候變化、疾病——所有這些問題都困擾著我們，因為我們不夠聰明，無法想出解決這些問題的辦法，但如果我們能用機器智慧來放大我們自己的智慧，遠遠超出我們的智慧，我們就有了做得更好的驚人潛力。

Image: Courtesy of Max Tegmark

所以，它不同於你清單上的所有其他事情，因為它不僅有可能的缺點，還有可能的巨大好處，因為它可以幫助解決所有其他問題。比如說癌症，或者更普遍的疾病——癌症是可以治癒的，只是我們人類還沒有足夠聰明，在所有的情況下都能想出應對的辦法。在我們做的所有研究中，我們都受到自己智力的限制。

在這個問題上有相當廣泛的態度，從懷疑論者到烏託邦主義者。你把自己放在哪裡？

我對創造超人智慧的可能性持樂觀態度，我也對我們能用人工智慧創造美好未來持樂觀態度。但我很謹慎，因為我不認為這是可以保證的。我們必須首先回答一些關鍵問題，才能讓事情順利進行，而這些問題可能需要30年才能得到答案。我們應該現在就開始打擊他們，而不是在一些傢伙決定利用他們的超智慧的前一天晚上。

什麼問題？你說你沒有專註於所謂的“短期”問題，比如自動化將如何影響工作。

現在關於工作自動化的討論太多了，人們往往會忘記，也要看看接下來會發生什麼。我說的是這樣的問題，我們如何將今天容易被駭客攻擊的計算機轉變成強大的人工智慧系統？當人工智慧系統變得越來越智慧時，如何讓它們理解我們的目標？

當你的電腦宕機時，很煩人，你損失了一個小時的工作，但如果那臺電腦控制著你乘坐的飛機或美國的核武庫，那就沒那麼好笑了。

人工智慧應該有什麼目標？它應該是一些美國計算機程式設計師的目標，還是***國或中世紀人的目標？我們能創造一個什麼樣的社會？看看美國現在的兩極分化程度。

如果我們不知道我們想要什麼，我們就不太可能得到它。你也不能把這個話題留給像我這樣的科技怪才，因為我們創造什麼樣的社會會影響到每個人。

你討論的許多計劃都是大局性的，比如法律需要如何更新才能跟上人工智慧的發展。但是普通人呢？我們該怎麼辦？

談話是個很好的開始。我們上次選舉的兩位總統候選人都沒有談論人工智慧，儘管我認為這是我們面臨的最重要的問題，這反映了人們沒有談論人工智慧，因此在投票時也不關心人工智慧。

你什麼時候會認為自己“成功”地確保我們進行了這次談話？

這樣看吧：我們現在投入了數十億美元，讓人工智慧變得更強大，而在人工智慧安全研究方面幾乎一無所獲。世界上沒有一個國家的**說過，人工智慧安全研究應該是他們電腦科學資金的一個組成部分，就像，你為什麼要資助建設核反應堆而不資助核反應堆安全？現在我們資助人工智慧研究，卻看不到人工智慧安全的預算。我當然不會說我們有足夠的對話，至少，直到這個改變。我認識的每一位人工智慧研究人員都認為，為這個專案提供更多的資金是個好主意。所以我想說，當這樣的事情朝著正確的方向發展的時候，我們是成功的。