亞馬遜明年禁止警方使用其面部識別技術
電子商務巨頭亞馬遜（Amazon）週三表示，該公司宣佈暫停一年，禁止執法部門使用其備受爭議的Rekognition人臉識別平臺。
就在兩天前，IBM表示將不再提供、開發或研究面部識別技術，理由是可能侵犯人權和隱私，研究表明，儘管人工智慧取得了進展，但面部識別技術仍存在年齡、性別、種族和種族偏見。
許多揭示現代面部識別技術在種族偏見方面缺陷的基礎性工作都要歸功於麻省理工學院媒體實驗室的研究人員喬伊·博蘭維尼（Joy Buolamwini）和微軟研究院（Microsoft Research）的成員蒂姆尼特·蓋布魯（Timnit Gebru）。Buolamwini和Gebry合著的一篇2018年被廣泛引用的論文發現，包括IBM和微軟在內的主要科技公司的面部識別系統識別深色面板個體的錯誤率比識別白色面板個體的錯誤率高出數十個百分點。《****》的一篇報道稱，問題部分在於用於訓練這些系統的資料集，其中**和白人佔絕大多數。
在另一項2019年的研究中，Buolamwini和合著者Deborah Raji分析了Rekognition，發現亞馬遜的系統在識別深色面板個體的性別方面也存在重大問題，並將深色面板的**誤認為是**。研究發現，該系統在分析膚色較淺的人的影象時，錯誤率幾乎為零。
亞馬遜試圖破壞這一發現，但布奧蘭維尼發表了一份長篇大論和詳細的迴應媒體，她說，“亞馬遜的做法迄今為止一直是一個否認，偏離，拖延。我們不能依賴亞馬遜來監管自己，也不能向警方或**機構提供不受監管和未經證實的技術。”她和拉吉的研究結果後來得到了數十名人工智慧研究人員的支援，他們寫了一封***，說Rekognition有缺陷，不應該交給執法部門。
亞馬遜除了呼籲聯邦監管這項技術外，沒有給出具體的決定理由，不過該公司表示，將繼續向致力於失蹤和受剝削兒童以及打擊人口販運的人權組織提供這項軟體。這裡的潛臺詞當然是喬治·弗洛伊德（George Floyd）之死，他是一名被明尼蘇達州前警官殺害的黑人，美國和全球範圍內反對種族主義和系統性警察**的持續**。
亞馬遜似乎認為不能相信警方會負責任地使用這項技術，儘管該公司從未披露有多少警察部門實際使用這項技術。截至去年夏天，似乎只有兩個部門在積極使用Rekognition，一個在俄勒岡州，一個在佛羅里達州，奧蘭多也停止了。一個應用更為廣泛的面部識別系統是Clearview-AI，這家祕密公司目前正面臨一系列隱私訴訟，此前它曾在社交媒體網站上搜集照片，並建立了一個向執法部門**的30多億張照片的資料庫。
Clearview AI執行長Hoan Ton在一份宣告中稱，該技術是一種有效的執法工具。他說：“雖然亞馬遜、谷歌和IBM已經決定退出市場，但Clearview AI相信，負責任地使用面部識別來保護兒童、金融欺詐和其他危害我們社群的犯罪的受害者的使命。”。他說，Clearview的技術“實際上是可行的”，但面部識別“不打算被用作與**活動或任何其他情況有關的監視工具。”
除了質疑其有效性的研究之外，亞馬遜多年來一直面臨著來自活動家、公民權利組織（如ACLU）和立法者的批評，因為他們向警察局**Rekognition的使用權，所有這些都提到了對如何在調查中使用這項技術缺乏監督的擔憂，以及潛在的內在偏見，這些偏見使得這項技術不可靠，而且存在歧視和其他濫用行為。
即使在員工在2018年表達了對這項技術的擔憂之後，亞馬遜的雲端計算主管安德魯賈西（Andrew Jassy）表示，公司將繼續向警方**這項技術。只有透過媒體報道和活動人士，以及Buolamwini等研究人員的工作，強調警察使用Rekognition等面部識別技術的陷阱，各部門才開始終止與亞馬遜的合同。
以下是亞馬遜關於一年禁令的完整說明：
We’re implementing a one-year moratorium on police use of Amazon’s facial recognition technology. We will continue to allow organizati*** like Thorn, the International Center for Missing and Exploited Children, and Marinus Analytics to use Amazon Rekognition to help rescue human trafficking victims and reunite missing children with their families.
We’ve advocated that governments should put in place stronger regulati*** to govern the ethical use of facial recognition technology, and in recent days, Congress appears ready to take on this challenge. We hope this one-year moratorium might give Congress enough time to implement appropriate rules, and we stand ready to help if requested.
美國東部時間6月10日晚上7:17更新：增加了關於在亞馬遜Rekognition和其他面部識別系統中發現種族偏見證據的研究的額外資訊。
更新6月10日，美國東部時間晚上8:43：增加了面部識別公司Clearview AI的宣告。
- 發表於 2021-04-19 02:14
- 閱讀 ( 46 )
- 分類：網際網路
你可能感興趣的文章
面部識別搜尋是如何破壞你的隱私的
...部識別也滲透到了我們的離線生活中。全球最大的零售商亞馬遜（Amazon）透過收購Whole Foods和Amazon Go雜貨店，一直在向實體店擴張。亞馬遜Go商店是免費結賬的，儘管他們確實依賴攝像頭，但據報道他們不使用面部識別。 ...
什麼是機器學習演算法？他們是這樣工作的
...大猩猩。2018年，美國公民自由聯盟（ACLU）的研究顯示，亞馬遜（Amazon）的Rekognition人臉識別軟體將28名美國國會議員確定為警方嫌疑人，假陽性對有色人種的影響不成比例。 ...
底特律一男子起訴警方根據面部識別錯誤逮捕他
...受到強烈反對，多個城市禁止了這種做法，而微軟、IBM和亞馬遜則承諾不讓他們的系統落入警方之手。
明尼阿波利斯警方禁止使用面部識別軟體
...報》報道，明尼阿波利斯市議會5日一致透過一項法令，禁止警察局和其他城市機構使用面部識別軟體。這項禁令將明尼阿波利斯列入限制或終止明尼阿波利斯執法人員和城市僱員使用此類技術的美國城市名單。 但據...
英特爾推出了realsense id，面部識別技術，該技術使用了該公司的深度感測攝像頭
...族和性別都有偏見，這就為假陽性提供了可能性。例如，亞馬遜面部識別軟體Rekognition的一個版本，與白人**相比，識別**或深色面板的人要困難得多。 英特爾已經採取措施，透過構建一個更加多樣化的人臉樣本來訓練RealSense，...
當執法部門試圖識別國會暴徒時，clearview人工智慧面部識別技術的使用受到了刺激
...群進行大規模監視的潛力，正確地引導全國各州和地方**禁止執法使用這種技術。”韋斯勒認為，如果警察部門使用這項技術的行為正常化，我們知道它將被用來對付大多數人：已經遭受苦難的黑人和棕色社群成員在種族主義的...
ftc與以面部識別為中心的照片儲存應用程式達成和解
...片。 Everalbum曾於今年8月關閉並更名為Paravision AI，它也被禁止歪曲其收集和使用個人資訊的方式以及保護使用者隱私的方式。如果該公司將軟體銷售給消費者供個人使用，那麼在使用從使用者那裡收集的任何生物特徵資訊來建立...
馬薩諸塞州即將成為第一個禁止警察使用面部識別的州
...何根據這些資料訓練模型的過程中還存在其他種族偏見。亞馬遜今年6月禁止警方在一年內使用其面部識別平臺，該公司表示，希望給國會“足夠的時間來實施適當的規則”，以管理該技術的銷售和使用。 亞馬遜緊隨IBM的步伐，...
馬薩諸塞州州長不會簽署面部識別禁令
馬薩諸塞州州長查理·貝克拒絕簽署一項法律，禁止大多數**使用面部識別。《波士頓環球報》上週報道說，貝克向州議員發回了一份綜合警察改革法案，要求修改包括取消面部識別規則在內的內容。 馬薩諸塞州的立...
報道顯示，莫斯科的面部識別系統僅需200美元就可以被劫持
...力犯罪起到威懾作用。為了應對這些擔憂，美國一些城市禁止公共機構進行面部識別，包括舊金山、波士頓和（最近）緬因州波特蘭。
