一个由人工智能研究人员、数据科学家和社会学家组成的联盟呼吁学术界停止发表声称利用面部扫描和犯罪统计等数据训练的算法来预测个人犯罪行为的研究。

关键技术联盟说，这样的工作不仅在科学上是文盲，而且使对黑人和有色人种的偏见循环永久化。大量研究表明，司法系统对待这些群体的态度比对待白人更为严厉，因此任何基于这些数据的软件只会放大和巩固社会偏见和种族主义。

该组织写道：“让我们明确一点：没有办法建立一个系统来预测或识别没有种族偏见的‘犯罪行为’——因为‘犯罪行为’这一类别本身就有种族偏见。”。“这种性质的研究——以及随之而来的对准确性的要求——基于这样一种假设，即有关刑事逮捕和定罪的数据可以作为潜在犯罪活动的可靠、中立的指标。然而，这些记录远非中立。”

该联盟起草了一封***，回应世界上最大的学术书籍出版商斯普林格（Springer）计划出版这样一份研究报告的消息。这封信目前已经有1700名专家签署，呼吁斯普林格撤销论文，并呼吁其他学术出版商今后不要发表类似作品。

该组织写道：“在美国，当carceral州的合法性，特别是治安，正受到根本性的挑战时，执法部门对这种性质的研究有着很高的要求。”。“像斯普林格这样的大出版商发行这部作品，将是走向在现实世界中反复被揭穿、对社会有害的研究的合法化和应用的重要一步。”

在这项名为“利用图像处理预测犯罪行为的深度神经网络模型”的研究中，研究人员声称已经建立了一个面部识别系统，该系统“能够预测某人是否有可能成为罪犯。。。准确率高达80%，没有种族偏见。这篇论文的作者包括博士生、前纽约警察局警官乔纳森科恩。

据《麻省理工技术评论》（mittechnologyreview）报道，斯普林格在回应这封***时表示，不会发表这篇论文。“你所指的论文已经提交给了一个即将召开的会议，斯普林格原计划在会上发表论文集，”该公司说。“经过彻底的同行评审，论文被否决了。”

然而，正如关键技术联盟（Coalition for Critical Technology）所明确指出的，这一事件只是数据科学和机器学习领域更广泛趋势中的一个例子，研究人员利用社会偶然性数据来尝试预测或分类复杂的人类行为。

在2016年的一个著名例子中，上海交通大学的研究人员声称，他们发明了一种算法，也可以从面部特征预测犯罪行为。这项研究遭到了批评和驳斥，谷歌和普林斯顿的研究人员发表了长篇反驳警告说，人工智能研究人员正在重温相貌学的伪科学。这是一门19世纪由塞萨尔·隆布罗索创立的学科，他声称自己可以通过测量“天生罪犯”的面部尺寸来识别他们。

研究人员写道：“当面相学的伪科学付诸实践时，它就变成了科学种族主义的伪科学。”。人工智能和机器学习的迅速发展使科学种族主义进入了一个新的时代，在这个时代里，机器学习的模型将偏见嵌入到用于模型开发的人类行为中

2016年的论文还展示了人工智能实践者欺骗自己认为自己’我发现了一个衡量犯罪的客观体系。来自谷歌和普林斯顿的研究人员指出，根据论文**享的数据，所有的“非罪犯” 看上去面带微笑，穿着有领衬衫和西装，而（皱眉）的罪犯都没有。它’很可能这个简单的误导性的视觉告诉指导了算法’这应该是复杂的分析。

关键技术联盟发出这封信之际，世界各地的运动都在强调由执法部门杀害乔治·弗洛伊德引发的种族正义问题。在这些**活动中，主要科技公司也撤回了使用面部识别系统的计划，黑人学者的研究表明，这种做法带有种族偏见。

这封信的作者和签名者呼吁人工智能界重新考虑如何评估其工作的“优点”——不仅要考虑准确度和精确度等指标，还要考虑这类技术对世界的社会影响。作者写道：“如果机器学习要带来拨款提案和新闻稿中鼓吹的‘社会福利’，这个领域的研究人员必须积极反思使他们的工作成为可能的权力结构（以及随之而来的压迫）。”。