報道稱，谷歌的deepmind在處理英國健康資料時犯了“不可原諒”的錯誤
一份研究谷歌人工智慧子公司DeepMind與英國國家衛生局（NHS）達成協議的最新學術報告稱，這家美國科技巨頭在處理敏感醫療資訊時，在透明度和監管方面犯了“不可原諒”的錯誤。
這項資料共享協議於2015年簽署，後來被一項新合同取代，允許DeepMind訪問NHS皇家自由信託基金（NHS Royal Free Trust）管理的倫敦醫院160萬名患者的醫療記錄。儘管當時谷歌提出的協議主要是為了尋找患有急性腎損傷（AKI）風險的患者，但《新科學家》（New Scientist）2016年4月的一項調查顯示，協議的實際條款更為廣泛。
報告指出，DeepMind不僅獲得了相關的血液檢測和診斷，還獲得了5年前的歷史醫療記錄，包括有關艾滋病毒診斷、藥物過量和墮胎的資訊。報告還說，2015年交易的措辭並沒有限制該公司在資料上使用人工智慧分析技術（一些深層次的爭議）。
“我認為這是一個非常有缺陷的基礎上，他們最初的運作，”朱莉婭鮑爾斯，在劍橋大學博士後研究員和報告的合著者，告訴邊緣。”我支援資料驅動的健康創新，但我認為人們應該關註自主性、公共價值和競爭等真正的問題。”
針對今天發表在《健康與技術》雜誌上的報告，DeepMind和Royal Free發表宣告說，這項研究“完全歪曲了NHS如何利用技術處理資料的現實。”他們說：“這造成了一系列重大的事實和分析錯誤，假設這種資料協議是史無前例的。”報告作者說，這些指控是毫無根據的，並要求DeepMind和皇家自由報在公開論壇上做出回應。
協議的這兩種解讀之間產生摩擦的原因很複雜，但往往歸結為意圖和誠意的問題。例如，該報告指出，2015年的交易並未涉及合同如何“從谷歌儲存的其他可識別資料中提取醫療記錄，考慮到[…]公司的商業模式依賴於個人資料的貨幣化。”DeepMind的回應是，它多次公開保證，Royal Free資料永遠不會與谷歌使用者資料合併，任何這樣的合併都將受到英國《資料保**》的保護，使得沒有必要在2015年協議中詳細說明這個問題。
鮑爾斯和合著者哈爾·哈德森於2016年4月撰寫了《新科學家》一書，他們認為，DeepMind在醫療保健行業的雄心壯志是“巨大的”，與公司的公關宣告“大相徑庭”。他們把英國公眾和DeepMind之間的關係比作一面單向鏡子。”一旦我們的資料進入谷歌控制的伺服器，我們跟蹤它的能力——理解如何以及為什麼對我們做出決定——就結束了，”他們寫道。
DeepMind和谷歌已經採取措施回應這些批評。除了去年11月與NHS簽署的新資料共享協議（英國資料監督機構仍在審查中），DeepMind還舉辦了一個論壇，回答患者和公眾對其技術如何使用的問題。它最近還宣佈計劃開發區塊鏈技術，讓患者在每次訪問資料時都能進行跟蹤。鮑爾斯贊揚了後一項舉措，但認為這項舉措在賦予個人對病歷的控制權方面做得不夠。”它沒有給你提供一個強有力的退出系統的方法，”她說。
更廣泛地說，Powles和Hodson描繪了一幅谷歌和DeepMind公司的圖景，這些公司準備從以納稅人為代價建立的英國健康資料中獲利。除了與皇家自由組織達成協議外，DeepMind還與英國其他醫院合作，獲取包括100萬次視網膜掃描和數百次癌症掃描在內的醫療資料。這些交易的具體條款——包括DeepMind為NHS開發名為Streams的應用程式所獲得的報酬——一直處於保密狀態，儘管有人要求提供更多資訊。
全球最大的醫學研究慈善機構Wellcome Trust的資料和政策團隊成員尼古拉·佩林（Nicola Perrin）表示，今天的報告提出了一些重要觀點，但對2015年協議的解讀“過於批評”“毫無疑問，深謀遠慮和皇家自由都犯了錯誤，”佩林告訴《邊緣報》但有關各方也都學到了不少東西。”
佩林說：“重要的是要記住，新的資料驅動技術確實在改善醫療保健方面提供了真正的希望。但只有公眾有信心資料得到適當保護，NHS才能充分利用這類新技術所能提供的機會。”
- 發表於 2021-05-10 07:36
- 閱讀 ( 37 )
- 分類：網際網路
你可能感興趣的文章
使用netflix時犯的7個錯誤
... 它可以讓團隊評估所報道的花在皇冠上的1.3億美元是否值得。作為這項服務最昂貴的原創節目，Netflix需要看看它是否有未來。（注：多虧了它的讚譽，它當然是。） ...
谷歌的deepmind人工智慧已經可以做的5件驚人的事情
... 什麼是深謀遠慮(deepmind)？ ...
谷歌完成收購fitbit
...購做出最終決定之前做出的。去年12月底，英國《衛報》報道稱，如果谷歌在未經監管機構批准的情況下繼續進行交易，將面臨高達4億美元的罰款風險。然而，ACCC的一位發言人告訴我們，在獲得批准之前，它不會對完成合並的...
谷歌的nest audio可能有，也可能沒有家庭影院的把戲
在我們對谷歌99美元的Nest音訊揚聲器的評論中，我們寫道“不幸的是，你不能用兩個Nest音訊揚聲器搭配Chromecast來**家庭影院音訊，就像你不能用兩個Amazon Echo揚聲器和一臺Fire電視那樣。” 但看起來谷歌最初打算提供...
twitter短暫地接管了一個仿冒帳戶，並把它交給了它嘲笑的學校
...大二學生Isaiah Kelly的大部分推文，這是Business Insider最先報道的。 雖然Twitter發言人承認，該公司在處理這一情況時犯了一個“錯誤”，但沒有詳細說明為何選擇採取這樣的行動，也沒有說明在涉及冒充的情況下，向第...
英國脫歐後，谷歌將英國使用者資料的管理權移交給美國
...商和資料控制者一直是谷歌在愛爾蘭的子公司。據路透社報道，資料控制者的變動可能會對谷歌英國使用者資料的法律保護程度產生影響。雖然愛爾蘭受到歐盟嚴格的GDPR資料保護條例的保護，但美國的隱私保護相對較弱。路透...
谷歌以4億美元收購人工智慧初創公司deepmind
...趣之上。Re/code報道稱，這家搜尋公司正在以4億美元收購DeepMind Technologies，這是一項協調一致的人才收購計劃的一部分。我們已經聯絡谷歌進行確認。 根據這家初創公司的網站（目前只是一個佔位符），DeepMind將...
谷歌的“聰明”食品日記其實有點蠢
...Im2Calories的專案使用了谷歌2014年收購的人工智慧初創公司DeepMind的技術。 Im2Calories是用來測量食物的大小，無論是絕對大小還是相對於盤子的大小，它還可以識別調味品。而且據報道，這張照片是不是高解析度也...
圍棋冠軍李世鐸反擊，首次擊敗谷歌的deepmind人工智慧
AlphaGo在DeepMind Challenge比賽中為谷歌贏得了勝利，昨天他連續第三次戰勝了圍棋冠軍李世鐸，但這位33歲的韓國人至少有了一定程度的報複——他剛剛擊敗了谷歌DeepMind部門開發的人工智慧程式AlphaGo，在首爾五場比賽的第四場比賽...
alphago再次擊敗lee se dol，獲得谷歌deepmind挑戰賽系列
...則——週日和週二剩下的比賽仍將繼續進行。AlphaGo是由DeepMind開發的一個程式，DeepMind是一家英國人工智慧公司，兩年前被谷歌收購。 中國古代的圍棋棋類遊戲一直被認為是電腦不可能達到世界級水平的，儘管在象棋和跳棋...
