随着面部识别系统变得越来越普遍，亚马逊已成为该领域的领跑者，吸引了美国各地的客户，包括警察部门和移民与海关执法局（ICE）。但专家表示，该公司在消除算法偏差方面做得不够，尤其是在肤色较深的人脸上的表现。

最新的担忧是本周由麻省理工学院媒体实验室发布的一项研究，该研究发现，如果一个人是**或肤色较深，那么在确定其性别时，重新认知的表现更差。在麻省理工学院Joy Buolamwini领导的测试中，Rekognion在识别浅肤色**的性别时没有犯错误，但有19%的情况下，它将**误认为**，31%的情况下，它将深肤色**误认为**。

这项研究是继去年2月Buolamwini进行的研究之后进行的，该研究在微软、IBM和中国Megvii公司开发的面部分析软件中发现了类似的种族和性别偏见。在Buolamwini分享结果后不久，微软和IBM都表示将改进他们的软件。正如这项最新研究所发现的，他们就是这样做的。

自去年2月以来，许多科技公司都对人脸识别问题表示担忧。由于算法中的偏差通常是有偏差的训练数据的结果，IBM发布了一个精心策划的数据集，称这将提高准确性。微软甚至更进一步，呼吁对该技术进行监管，以确保更高的标准，使市场不会成为“竞相触底”

阅读更多：我们应该如何调节面部识别？

相比之下，亚马逊在参与这场辩论方面做得很少。该公司还否认最近的研究表明了其技术的准确性。报告指出，研究人员没有测试最新版本的Rekognition，性别识别测试是面部分析（识别面部表情和特征，如面部毛发），而不是面部识别（将扫描的面部与面部照片匹配）。

亚马逊表示：“这是两个独立的软件包。”亚马逊网络服务（Amazon Web Services）深度学习和人工智能总经理马特·伍德（Matt Wood）在一份新闻声明中说：“根据面部分析获得的结果，不可能对任何用例（包括执法）的面部识别准确性得出结论。”。

然而，早期的研究在亚马逊的面部识别软件中发现了类似的问题。去年，美国公民自由联盟（ACLU）进行的一项测试发现，Rekognion在扫描国会议员的照片时，错误地将28人与警方的抢劫照片进行了比对。亚马逊将这一结果归咎于算法的校准不力。

尽管人脸识别系统中的偏见已经成为担心算法公平性的专家和研究人员的**点，但许多人警告说，它不应该掩盖更广泛的问题。正如Buolamwini和合著者Inioluwa Deborah Raji在他们最近的论文中指出的那样，仅仅因为面部识别系统在不同肤色上表现同样出色，这并不能阻止它成为不公正或压制的工具。

两人写道：“武器化和滥用面部分析技术的可能性不容忽视，对隐私的威胁或对公民自由的侵犯也不容忽视，即使准确性差异有所减少。”