薩蒂亞納德拉的人工智慧規則比阿西莫夫的三定律更無聊（也更相關）
艾薩克·阿西莫夫的機器人三定律（從技術上講是四定律）幾十年來一直是科幻小說的忠實寫照。不過，隨著人工智慧的最新進展，電腦科學家和科技公司開始認真考慮我們實際需要的規則，以保護自己免受未來機器人和人工智慧的影響。上週，谷歌的研究人員發表了一篇科學論文，概述了讓機器人安全工作的五大關鍵挑戰，昨天，微軟執行長薩蒂亞·納德拉（Satya Nadella）在給Slate的一篇文章中闡述了他認為人工智慧研究必須遵循的六項“原則和目標”，以確保社會安全。
納德拉擔心機器人的社會影響
納德拉的目標並不是阿西莫夫定律的直接類比。後者是機器人必須遵守的規則，而微軟執行長則主要是向業界發表講話——向正在構建人工智慧系統和從事機器學習的電腦科學家發表講話。因此，他的規則更多的是關於人工智慧的潛在社會影響，而不是阻止機器人向你襲來。因為這個原因，他們可能聽起來比阿西莫夫的更無聊（當然不那麼戲劇化），但他們更重要。
以下是納德拉的原則：
- 人工智慧必須被設計來幫助人類。納德拉說，與人類並肩工作的機器應該做“像採礦這樣危險的工作”，但仍然“尊重人類的自主性”
- AI必須透明。”“我們不僅需要智慧機器，而且需要可理解的機器，”納德拉說人們應該瞭解技術如何看待和分析世界。”
- 人工智慧必須在不破壞人的尊嚴的前提下最大限度地提高效率。”在這些系統的設計中，我們需要更廣泛、更深入、更多樣化的民眾參與。科技產業不應左右未來的價值觀和美德。”
- 人工智慧必須為智慧隱私而設計。納德拉要求“完善的保護，以確保個人和團體資訊的安全。”
- 人工智慧必須有演算法的責任。所以“人類可以消除意外傷害”
- AI必須防範偏見。”適當的和有代表性的研究“應該被用來確保人工智慧不歧視人（像人類一樣）。
恰如其分，納德拉的目標就像阿西莫夫自己的三定律一樣充滿了模糊性。但是，儘管後者的漏洞為短篇小說增添了趣味性（阿西莫夫的很多小說都涉及到一個關節機器人如何繞過法律並擊倒主人的邏輯技術細節），但納德拉原則的模糊性反映了**機器人和人工智慧的混亂業務，這些業務深深影響著人們的生活。
舉個例子，無數次提到“偏見”和“多樣性”。這是一個不言而喻的事實，科技界經常努力考慮不同的觀點（那些非白人和/或非**的觀點），而機器學習系統代表人類做出決策，很有可能工程師的無知甚至偏見最終會硬編碼到系統中。為了確保這種情況不會發生，電腦科學家需要防範偏見（納德拉的第六條原則），但他們**的系統也應該足夠容易理解，以便其他人可以尋找偏見（他的第二條原則），然後消除任何傷害（第五條原則）。
避免偏見是一個大問題；阻止機器人破壞經濟
納德拉的六個目標（以及他隨附的文章）中的另一個主題是人工智慧對經濟的影響——也就是所謂的“當一個機器人接替你的工作時會發生什麼？”納德拉關於人工智慧必須“在不破壞人的尊嚴的情況下最大限度地提高效率”的宣告似乎就是針對這一點，後來在他的評論文章中，他問道：“自動化會導致更多或更少的平等嗎？”他建議說，沒有明確的答案，但迫切需要考慮未來。
基本上，納德拉的不同規則之間有很多重疊，但總的主題很簡單：讓我們不要把人搞得一團糟。在我們急於建立自主的機器和系統時，我們不應該忘記這些系統應該幫助我們，而不是傷害我們。就像阿西莫夫說的。
我們能造一臺有意識的電腦嗎？
- 發表於 2021-05-05 22:59
- 閱讀 ( 74 )
- 分類：網際網路
你可能感興趣的文章
xbox x系列將繼續
...的庫存補充，那麼不幸的是你必須保持耐心。微軟執行長薩蒂亞納德拉（satyanadella）表示，這些**至少要到4月份才能上市。 ...
整個週末我都在用cortana智慧揚聲器。這就是它失敗的原因
...，微軟已經遠遠落後，唯一合理的解決辦法就是放棄。 薩蒂婭向講科爾塔納語的人告別 最近，微軟執行長薩蒂亞納德拉（satyanadella）表示，他不再把Cortana視為Alexa或googleassistant的競爭對手。據MSPoweruser說，他說： “You should be ...
微軟以197億美元收購人工智慧語音技術公司nuance
...量來增強醫療保健提供商的能力。”釋出。 微軟執行長薩蒂亞·納德拉在一份宣告中說：“Nuance在醫療保健交付點提供了人工智慧層，是企業人工智慧實際應用的先驅。”。“人工智慧是技術最重要的優先事項，醫療保健是其最...
微軟表示，執行長薩蒂亞·納德拉（satya nadella）已與特朗普就收購tiktok一事進行了商談
微軟執行長薩蒂亞·納德拉（Satya Nadella）與特朗普總統對話後，微軟週日在部落格中表示，“準備繼續討論，探討在美國收購TikTok的事宜”。這是該公司首次證實有關收購影片分享平臺的報道。 “微軟完全理解解決...
彭博社：微軟新任ceo將由薩蒂亞·納德拉出任，蓋茨可能將卸任董事長
有報道稱，微軟正在考慮薩蒂婭·納德拉（Satya Nadella）在經過數月的物色後，出任公司新CEO。在史蒂夫•鮑爾默（steveballmer）的職位候選名單中，他一直位居榜首，現在彭博社（Bloomberg）和其他媒體報道稱，他很可能是下一個接...
微軟新任ceo是薩蒂婭·納德拉
...已經結束。根據最近的猜測，這家軟體巨頭確實正在任命薩蒂亞·納德拉（Satya Nadella）為新CEO，接替史蒂夫·鮑爾默（Steve Ballmer）。46歲的納德拉將立即接任，讓鮑爾默提前退休。納德拉曾是微軟為這個職位面試過的眾多候選人...
微軟終於趕上了未來
微軟執行長薩蒂亞納德拉（satyanadella）上週在公司的構建大會上宣佈：“我們一開始是一家專註於開發人員的公司……現在又回到了那個時代。”。風險很高：微軟長期以來以與開發人員的良好關係而聞名，現在卻眼睜睜地看著...
機器人能明辨是非嗎？
在艾薩克·阿西莫夫的短篇小說《奔跑》中，兩位水星科學家發現，他們正在耗盡人類基地的燃料。他們派了一個名叫斯皮迪的機器人去執行一項危險的任務，去收集更多的東西，但五個小時後，他們發現斯皮迪在兜圈子，背誦...
微軟的納德拉：xbox哪兒也去不了
微軟執行長薩蒂亞納德拉（satyanadella）表示，儘管投資者長期敦促他**Xbox業務，但他沒有任何計劃。納德拉在本週於加利福尼亞州的蘭喬帕洛斯威爾德舉行的程式碼會議上說，Xbox將繼續存在下去。...
微軟將把不同版本的windows合併到一個統一的作業系統中
微軟執行長薩蒂亞納德拉（satyanadella）證實，他的公司將把Windows的所有主要版本合併到一個作業系統中。Nadella在今天的公司季度財報電話會議上說，微軟將“將Windows下一個版本從三個作業系統簡化為一個單一的融合作業系統”...
