谷歌希望確保人工智慧的進步不會留下任何人
對於人工智慧承諾的每一個令人興奮的機會，都有一個潛在的缺點，那就是它暗淡的映象。我們希望人工智慧能讓我們做出更明智的決定，但如果它最終強化了社會的偏見呢？我們夢想著科技可以讓我們從工作中解脫出來，但如果只有富人受益，而窮人卻被剝奪了權利，那又會怎樣呢？
正是這些問題讓人工智慧研究人員夜不能寐，也是谷歌今天推出人工智慧計劃來解決其中一些問題的原因。這個新專案被命名為PAIR（它代表著“人+人工智慧研究”），其目的是“研究和重新設計人與人工智慧系統的互動方式”，並試圖確保這項技術“造福於並賦予每個人權力”
這是一項廣泛的任務，也是一項雄心勃勃的任務。谷歌表示，兩人將研究影響AI供應鏈中每個人的許多不同問題——從編寫演算法的研究人員，到正在（或即將）使用專業AI工具的醫生和農民等專業人士。這家科技巨頭表示，它希望讓人工智慧變得更加友好，這意味著不僅要讓人工智慧易於理解（讓人工智慧自我解釋是一個眾所周知的挑戰性問題），還要確保它平等對待使用者。
人們一次又一次地註意到，社會的偏見和不平等往往在人工智慧中被硬編碼。這可能意味著面部識別軟體不能識別深色面板的使用者，或者是一個語言處理程式，它假設醫生總是**，護士總是**。
通常這類問題是由人工智慧訓練的資料引起的。要麼資訊不完整，要麼在某種程度上有偏見。這就是為什麼PAIR的第一個真正的新聞是兩個新的開源工具的釋出-叫做Facets Overview和Facets Dive-這使得程式設計師更容易檢查資料集。
在上面的截圖中，Facets-Dive被用來測試一個面部識別系統。該專案將測試人員按原籍國進行分類，並將錯誤與成功識別進行比較。這使得編碼人員能夠快速看到他們的資料集有哪些不足，並做出相應的調整。
目前，PAIR有12名全職員工。考慮到問題的規模，這個數字有點小，但谷歌表示，PAIR實際上是公司範圍內的一項舉措，它將吸收公司各部門的專業知識。
更多的開源工具如Facets將在未來釋出，谷歌也將設立新的基金和常駐地來贊助相關研究。它不是唯一一個認真對待這些問題的大型組織（另請參閱：人工智慧基金的道德和治理以及埃隆•馬斯克資助的OpenAI），但很高興看到谷歌加入到為更公平的未來而奮鬥的行列中來。
- 發表於 2021-05-29 00:57
- 閱讀 ( 22 )
- 分類：網際網路
你可能感興趣的文章
谷歌的量子霸權標誌著計算技術的巨大進步
谷歌正在推動文明向量子計算靠攏，這一發展將改變計算，很可能改變世界。谷歌開發的一款名為Sycamore的量子計算機在幾秒鐘內解決了一個“普通”超級計算機需要1萬年才能解決的問題。 ...
谷歌的deepmind人工智慧已經可以做的5件驚人的事情
... 但是，沒有什麼比谷歌的“深度智慧”的成就更讓人質疑，因為它似乎每天都在完成新的、前所未有的事情。讓我們來看看這個先進人工智慧所取得的一些成就，我們中的許多人從未見過它...
facebook的仇恨言論檢測人工智慧得到了回報
...所取得的成就。儘管最近取得了一些成就，Schroepfer還是希望Facebook的人工智慧能夠在“跨語言、跨文化和跨地域的上下文中檢視內容”方面做得更好 ...
深入研究replika：我的人工智慧朋友
... 相關：什麼是機器學習？谷歌的免費課程為你打破了它 ...
5個令人難以置信的ai照片編輯在不知道影象編輯的情況下轉換圖片
...很好的功能，以防你在自己的原始圖片傾斜，你喜歡，但希望在最後一個簡單的直鏡頭。 ...
銀行利用人工智慧和機器學習更好地為您服務的8種方法
...並確保您的事務在網路中的安全過程。一些英國銀行允許希望開戶的客戶傳送**來驗證自己的身份。這意味著您可以在幾分鐘內開立帳戶，而無需訪問分支機構或等待幾天進行手動驗證。 聊天機器人：當你線上訪...
隨著中國在人工智慧期刊引文方面超過美國，人工智慧研究繼續增長
...到演算法偏差，對這些話題的討論越來越突出。2020年，谷歌解僱研究員蒂姆尼特·蓋布魯（Timnit Gebru）和IBM退出面部識別業務等故事推動了人們對人工智慧技術應如何應用的討論。但報告指出，儘管企業樂於口頭上遵守道德原則...
據報道，谷歌要求員工在研究論文中“語氣積極”
谷歌對涉及性別、種族和政治意識形態等敏感話題的研究論文增加了一層審查。一位高階經理也在今年夏天的一篇論文中指示研究人員“保持積極的態度”。路透社首先報道了這一訊息。 “技術的進步和我們日益複...
微軟獨家許可openai開創性的gpt-3文字生成模型
...的每一個人和每一個組織都能取得更大的成就，因此我們希望確保這個人工智慧平臺能為每個人——研究人員、企業家、業餘愛好者、企業——所用，讓他們的雄心壯志能夠創造出新的、有趣的東西。” OpenAI表示，“這筆交易...
谷歌正在向每個人傳送一封複雜的隱私郵件——這就是它的含義
谷歌正在恢復讓人們分析和評價來自使用者的匿名音訊片段。不過，它也採取了一個主要步驟，即自動選擇每個使用者退出允許谷歌儲存他們的音訊的設定。這就是為什麼你今天可能會收到一封電子郵件：谷歌希望你選擇重新加...
