deepmind成立新研究團隊調查ai倫理
谷歌的人工智慧子公司DeepMind正在認真對待道德問題。谷歌2014年收購的這家英國公司今天宣佈成立一個新的研究小組，專門研究人工智慧領域最棘手的問題。其中包括管理人工智慧偏差的問題；自動化帶來的經濟影響；以及確保我們開發的任何智慧系統共享我們的倫理道德價值觀的需要。
DeepMind Ethics&Society（或DMES，新團隊的命名）將從2018年初開始釋出關於這些主題和其他主題的研究報告。該集團目前有8名全職員工，但DeepMind希望在一年後將其增加到25名左右。該團隊有六名無報酬的外部“研究員”（包括牛津哲學家尼克·博斯特羅姆，他寫了一本關於人工智慧存在風險的書），並將與從事類似研究的學術團體合作，包括紐約大學人工智慧研究所（AI Now Institute）和勒弗胡姆智慧未來中心（Leverhulme Centre for The Future of Intelligence）。
在宣佈該團隊的部落格文章中，聯合領導Verity Harding和Sean Legassick寫道DMES將有助於DeepMind“探索和理解人工智慧對現實世界的影響”。關於這項工作的例子，他們提到了對刑事司法演算法中種族主義的調查，以及討論無人駕駛汽車轉向碰撞的倫理問題。”如果人工智慧技術要為社會服務，就必須由社會的優先事項和關註點來決定，”哈丁和勒加西克寫道。
DeepMind本身也非常清楚這些挑戰，去年它曾因與英國國家衛生服務局（NHS）合作而受到批評。DeepMind在2015年與倫敦三家醫院達成的一項交易，處理了160萬名患者的醫療資料，今年被英國資料監管機構裁定為非法，該公司沒有告知個人他們的資料被使用。DeepMind後來表示，它“低估了NHS和病人資料規則的複雜性”，並聘請了新的獨立倫理審查人員來審查未來的交易。
儘管DMES的建立證明DeepMind正在積極和公開地考慮人工智慧將如何影響社會的問題，但該公司將繼續面臨有關其自身工作的道德含義的問題。據報道，DMES的研究人員將與開發DeepMind自己產品的工作人員並行工作，而不是參與他們的創作；而該公司的內部道德審查委員會仍然籠罩在神祕之中。當然，對於從事尖端技術的私營公司來說，透明度是有限制的，但是，據推測，dme也可以解決這個問題。
- 發表於 2021-05-30 07:59
- 閱讀 ( 37 )
- 分類：網際網路
你可能感興趣的文章
機器人能用你的照片做什麼？5款酷炫的基於人工智慧的照片編輯應用
... 當今世界上最先進的人工智慧之一是谷歌的DeepMind，它實際上可以從無到有地建立自己的影象！看看DeepMind可以做的其他一些很酷的事情。 ...
谷歌的deepmind人工智慧已經可以做的5件驚人的事情
... 什麼是深謀遠慮(deepmind)？ ...
谷歌人工智慧經理在兩名頂尖研究人員被解僱後辭職
谷歌的一位研究人員經理在其組織中兩名**領導被解僱後辭職。據彭博社報道，薩米·本吉奧（Samy Bengio）在今年2月重組前曾負責監管道德人工智慧團隊，他將離職尋求其他機會。他的最後一天是4月28日。 Bengio是star AI...
在解僱了一位頂尖的人工智慧倫理學家之後，谷歌正在改變其多樣性和研究政策
...隊聯席領導人Timnit Gebru被解僱的內部調查後，正在改變與研究和多樣性相關的政策。該公司打算將某些高管的薪酬與多元化和包容性目標掛鉤。它還改變了管理員工離職的敏感程度。 儘管谷歌沒有透露調查結果，但...
谷歌在內部調查後解僱了第二位人工智慧倫理研究員
...mariancroak）在一篇部落格文章中稱，他現在領導著“谷歌研究院（googleresearch）負責人工智慧的新專家中心”。 據米切爾的LinkedIn稱，她於2016年以高階研究科學家的身份加入谷歌。兩年後，她與Gebru一起幫助成立了道德人工智慧...
谷歌正在調查另一位頂尖的人工智慧倫理學家
據Axios報道，谷歌正在調查人工智慧研究員瑪格麗特·米切爾（Margaret Mitchell），她是該公司道德人工智慧團隊的共同領導者，並鎖定了她的公司賬戶。一個多月前，另一位著名的人工智慧倫理學家Timnit Gebru說，她被公司解僱了。...
谷歌解僱了著名的ai倫理學家timnit gebru
谷歌頂尖人工智慧研究人員之一蒂姆尼特格布魯（Timnit Gebru）說，谷歌昨天突然解僱了她。谷歌道德人工智慧團隊的技術聯席主管聲稱，管理人員對她發給同事的一封電子郵件感到不安。 這封發給智庫**及其盟友listse...
timnit gebru在谷歌的團隊將公開他們的觀點
與Timnit Gebru共事的谷歌員工公開對這位明星AI倫理研究員的指控提出異議。傑夫·迪恩說，週一，該團隊在谷歌Walkout媒體賬戶上發表了一封信，堅定地表示Gebru被解僱，沒有辭去谷歌人工智慧主管的職務。他們還表示，Gebru應該遵...
研究人員希望有一個更好的系統來修複糟糕的科學
...事情弄錯，另一部分是確保糟糕的結果不會滲透到更大的研究領域。當一項有缺陷的研究透過同行評審時，期刊和作者有責任儘快糾正或收回它，最好是阻止未來的研究人員引用它的結果。不過，在今天發表在《自然》雜誌上的...
谷歌的人工智慧將在youtube上直播與圍棋世界冠軍的較量
本月早些時候，谷歌的人工智慧公司DeepMind宣佈，它已經建立了一個能夠擊敗圍棋冠軍選手的神經網路系統。這一古老的中國棋類遊戲被認為是一個極其困難的計算機挑戰-遠比國際象棋難-和DeepMind的成功被譽為政變的人工智慧研...
