據英國廣播公司(BBC)報道,英國達勒姆市的英國警方準備上線一個預測性人工智慧系統,該系統將決定一名嫌疑人是否應該被拘留。該系統被稱為Hart,代表危害評估風險工具,旨在根據未來犯罪的低、中或高風險對個人進行分類。警方計劃在未來幾個月內將其投入使用,以測試其在監管專家不依賴系統判斷的案件中的有效性。
人工智慧評估可以用於許多不同的決定,比如嫌疑人是否應該被關押更長的時間,以及是否應該在指控發出之前或之後設定保釋。據英國廣播公司報道,哈特的決策是基於2008年至2013年間收集的達勒姆警方資料,並考慮了犯罪歷史、當前犯罪的嚴重性以及嫌疑人是否有逃跑風險等因素。在2013年的初步測試中,犯罪嫌疑人的行為被跟蹤兩年,哈特的低風險預測準確率為98%,高風險預測準確率為88%。
Hart只是全球執法官員、**和監獄系統使用的眾多演算法和預測軟體工具之一。儘管他們可能會提高警察部門的效率,但奧威爾式的演算法刑事司法系統的暗流卻得到了令人不安的硬資料的支援。
在ProPublica去年公佈的一項徹底調查中,發現這些風險評估工具存在嚴重缺陷,內在的人類偏見使它們將黑人被告作為未來罪犯的可能性增加了一倍,將白人被告視為低風險獨立罪犯的可能性更大。今天的許多算法系統,包括Facebook、Google和其他科技公司使用的算法系統,也同樣面臨著向系統中註入偏見的風險,因為人類的判斷最初是用來**軟體的。
達勒姆警方很快向BBC保證,哈特的決定只會在初步和實驗性使用期間提供“諮詢”。由於該系統將考慮性別和郵政編碼等因素,執法部門和學術顧問表示,該系統仍將不完整,永遠不應為決策提供全部資訊。
據英國廣播公司報道,在議會對演算法決策進行調查後提交的這份報告的作者寫道:“簡單地居住在一個給定的郵政編碼中對結果沒有直接影響,而是必須以數千種不同的方式與所有其他預測因子相結合,才能得出最終的預測結論。”。包括劍橋大學循證警務中心主任勞倫斯·謝爾曼(Lawrence Sherman)教授在內的作者還說,哈特將內建一個審計系統,跟蹤其如何得出結論。
...想要識別的形狀。如果影象被輸入機器學習演算法,系統開始學習該形狀的特徵。 ...
...的Rekognition人臉識別軟體將28名美國國會議員確定為警方嫌疑人,假陽性對有色人種的影響不成比例。 ...
...好的選擇,提供了三組模板。當您選擇一個,完整的選單將開啟,並給您多達六個選項可供選擇。 ...
...重要的故事。 谷歌定位資料正在幫助警方找到目擊者和嫌疑人 上週末,《****》刊登了一篇引人入勝的報道,講述了警方如何利用谷歌(Google)儲存的位置資料,找到與他們難以破獲的案件有關的證人和嫌疑人。這份報告既有...
...快捷鍵鍵盤在被微軟收購後出現了資料洩露。SwiftKey鍵盤開始向其他SwiftKey使用者建議私人電子郵件地址,而這些電子郵件地址本不應該被公開。 為什麼鍵盤如此危險 第三方鍵盤之所以如此危險,是因為它們想變得“聰明”。...
...論和錯誤資訊等方面違反其政策的內容。但YouTube本週對英國《金融時報》表示,更多地使用人工智慧控制,導致影片刪除量和錯誤擷取量大幅增加。 英國《金融時報》稱,從4月到6月,YouTube上刪除了約1100萬個影片,約為平時的...
...偏離,拖延。我們不能依賴亞馬遜來監管自己,也不能向警方或**機構提供不受監管和未經證實的技術。”她和拉吉的研究結果後來得到了數十名人工智慧研究人員的支援,他們寫了一封***,說Rekognition有缺陷,不應該交給執法...
...同,來自平民的影片可以拍攝完整的場景,甚至可以拍攝嫌疑人的視角。“有了旁觀者的鏡頭,其他人可以展示正在發生的事情,而我們並不依賴警察來展示這些事件,”克里斯汀·瓊斯說,他研究的是人們如何看待約翰·傑伊...
...度來看,“公平”的資料集也往往不是。例如,準確反映英國人口結構的人臉資料集將以白人為主,因為英國以白人為主。在這些資料上訓練的演算法在白臉上比在非白臉上表現得更好。換句話說,“公平”的資料集仍然可以建...