电子商务巨头亚马逊（Amazon）周三表示，该公司宣布暂停一年，禁止执法部门使用其备受争议的Rekognition人脸识别平台。

就在两天前，IBM表示将不再提供、开发或研究面部识别技术，理由是可能侵犯人权和隐私，研究表明，尽管人工智能取得了进展，但面部识别技术仍存在年龄、性别、种族和种族偏见。

许多揭示现代面部识别技术在种族偏见方面缺陷的基础性工作都要归功于麻省理工学院媒体实验室的研究人员乔伊·博兰维尼（Joy Buolamwini）和微软研究院（Microsoft Research）的成员蒂姆尼特·盖布鲁（Timnit Gebru）。Buolamwini和Gebry合著的一篇2018年被广泛引用的论文发现，包括IBM和微软在内的主要科技公司的面部识别系统识别深色皮肤个体的错误率比识别白色皮肤个体的错误率高出数十个百分点。《****》的一篇报道称，问题部分在于用于训练这些系统的数据集，其中**和白人占绝大多数。

在另一项2019年的研究中，Buolamwini和合著者Deborah Raji分析了Rekognition，发现亚马逊的系统在识别深色皮肤个体的性别方面也存在重大问题，并将深色皮肤的**误认为是**。研究发现，该系统在分析肤色较浅的人的图像时，错误率几乎为零。

亚马逊试图破坏这一发现，但布奥兰维尼发表了一份长篇大论和详细的回应媒体，她说，“亚马逊的做法迄今为止一直是一个否认，偏离，拖延。我们不能依赖亚马逊来监管自己，也不能向警方或**机构提供不受监管和未经证实的技术。”她和拉吉的研究结果后来得到了数十名人工智能研究人员的支持，他们写了一封***，说Rekognition有缺陷，不应该交给执法部门。

亚马逊除了呼吁联邦监管这项技术外，没有给出具体的决定理由，不过该公司表示，将继续向致力于失踪和受剥削儿童以及打击人口贩运的人权组织提供这项软件。这里的潜台词当然是乔治·弗洛伊德（George Floyd）之死，他是一名被明尼苏达州前警官杀害的黑人，美国和全球范围内反对种族主义和系统性警察**的持续**。

亚马逊似乎认为不能相信警方会负责任地使用这项技术，尽管该公司从未披露有多少警察部门实际使用这项技术。截至去年夏天，似乎只有两个部门在积极使用Rekognition，一个在俄勒冈州，一个在佛罗里达州，奥兰多也停止了。一个应用更为广泛的面部识别系统是Clearview-AI，这家秘密公司目前正面临一系列隐私诉讼，此前它曾在社交媒体网站上搜集照片，并建立了一个向执法部门**的30多亿张照片的数据库。

Clearview AI首席执行官Hoan Ton在一份声明中称，该技术是一种有效的执法工具。他说：“虽然亚马逊、谷歌和IBM已经决定退出市场，但Clearview AI相信，负责任地使用面部识别来保护儿童、金融欺诈和其他危害我们社区的犯罪的受害者的使命。”。他说，Clearview的技术“实际上是可行的”，但面部识别“不打算被用作与**活动或任何其他情况有关的监视工具。”

除了质疑其有效性的研究之外，亚马逊多年来一直面临着来自活动家、公民权利组织（如ACLU）和立法者的批评，因为他们向警察局**Rekognition的使用权，所有这些都提到了对如何在调查中使用这项技术缺乏监督的担忧，以及潜在的内在偏见，这些偏见使得这项技术不可靠，而且存在歧视和其他滥用行为。

即使在员工在2018年表达了对这项技术的担忧之后，亚马逊的云计算主管安德鲁贾西（Andrew Jassy）表示，公司将继续向警方**这项技术。只有通过媒体报道和活动人士，以及Buolamwini等研究人员的工作，强调警察使用Rekognition等面部识别技术的陷阱，各部门才开始终止与亚马逊的合同。

以下是亚马逊关于一年禁令的完整说明：

We’re implementing a one-year moratorium on police use of Amazon’s facial recognition technology. We will continue to allow organizati*** like Thorn, the International Center for Missing and Exploited Children, and Marinus Analytics to use Amazon Rekognition to help rescue human trafficking victims and reunite missing children with their families.

We’ve advocated that governments should put in place stronger regulati*** to govern the ethical use of facial recognition technology, and in recent days, Congress appears ready to take on this challenge. We hope this one-year moratorium might give Congress enough time to implement appropriate rules, and we stand ready to help if requested.

美国东部时间6月10日晚上7:17更新：增加了关于在亚马逊Rekognition和其他面部识别系统中发现种族偏见证据的研究的额外信息。

更新6月10日，美国东部时间晚上8:43：增加了面部识别公司Clearview AI的声明。