人工智慧專家說，對聲稱能預測犯罪行為的演算法的研究必須結束

一個由人工智慧研究人員、資料科學家和社會學家組成的聯盟呼籲學術界停止發表聲稱利用面部掃描和犯罪統計等資料訓練的演算法來預測個人犯罪行為的研究。...

一個由人工智慧研究人員、資料科學家和社會學家組成的聯盟呼籲學術界停止發表聲稱利用面部掃描和犯罪統計等資料訓練的演算法來預測個人犯罪行為的研究。

關鍵技術聯盟說，這樣的工作不僅在科學上是文盲，而且使對黑人和有色人種的偏見迴圈永久化。大量研究表明，司法系統對待這些群體的態度比對待白人更為嚴厲，因此任何基於這些資料的軟體只會放大和鞏固社會偏見和種族主義。

該組織寫道：“讓我們明確一點：沒有辦法建立一個系統來預測或識別沒有種族偏見的‘犯罪行為’——因為‘犯罪行為’這一類別本身就有種族偏見。”。“這種性質的研究——以及隨之而來的對準確性的要求——基於這樣一種假設，即有關刑事逮捕和定罪的資料可以作為潛在犯罪活動的可靠、中立的指標。然而，這些記錄遠非中立。”

該聯盟起草了一封***，迴應世界上最大的學術書籍出版商斯普林格（Springer）計劃出版這樣一份研究報告的訊息。這封信目前已經有1700名專家簽署，呼籲斯普林格撤銷論文，並呼籲其他學術出版商今後不要發表類似作品。

該組織寫道：“在美國，當carceral州的合法性，特別是治安，正受到根本性的挑戰時，執法部門對這種性質的研究有著很高的要求。”。“像斯普林格這樣的大出版商發行這部作品，將是走向在現實世界中反覆被揭穿、對社會有害的研究的合法化和應用的重要一步。”

在這項名為“利用影象處理預測犯罪行為的深度神經網路模型”的研究中，研究人員聲稱已經建立了一個面部識別系統，該系統“能夠預測某人是否有可能成為罪犯。。。準確率高達80%，沒有種族偏見。這篇論文的作者包括博士生、前紐約警察局警官喬納森科恩。

據《麻省理工技術評論》（mittechnologyreview）報道，斯普林格在迴應這封***時表示，不會發表這篇論文。“你所指的論文已經提交給了一個即將召開的會議，斯普林格原計劃在會上發表論文集，”該公司說。“經過徹底的同行評審，論文被否決了。”

然而，正如關鍵技術聯盟（Coalition for Critical Technology）所明確指出的，這一事件只是資料科學和機器學習領域更廣泛趨勢中的一個例子，研究人員利用社會偶然性資料來嘗試預測或分類複雜的人類行為。

在2016年的一個著名例子中，上海交通大學的研究人員聲稱，他們發明了一種演算法，也可以從面部特徵預測犯罪行為。這項研究遭到了批評和駁斥，谷歌和普林斯頓的研究人員發表了長篇反駁警告說，人工智慧研究人員正在重溫相貌學的偽科學。這是一門19世紀由塞薩爾·隆布羅索創立的學科，他聲稱自己可以透過測量“天生罪犯”的面部尺寸來識別他們。

研究人員寫道：“當面相學的偽科學付諸實踐時，它就變成了科學種族主義的偽科學。”。人工智慧和機器學習的迅速發展使科學種族主義進入了一個新的時代，在這個時代裡，機器學習的模型將偏見嵌入到用於模型開發的人類行為中