亚马逊告诉员工,它将继续向执法部门销售面部识别软件

亚马逊最近因向政府和执法机构许可其备受争议的Rekognition系统(一款功能强大的面部识别软件)而遭到抨击,最新的进展是,亚马逊在夏天与美国移民和海关执法局(ICE)达成了一项使用Rekognion的协议。现在,亚马逊员工正在盘问该公司在销售此类技术方面的领导地位,特别是当它可以用来跟踪人类并将他们送回海外潜在危险的环境时。...

亚马逊最近因向**和执法机构许可其备受争议的Rekognition系统(一款功能强大的面部识别软件)而遭到抨击,最新的进展是,亚马逊在夏天与美国移民和海关执法局(ICE)达成了一项使用Rekognion的协议。现在,亚马逊员工正在盘问该公司在销售此类技术方面的领导地位,特别是当它可以用来跟踪人类并将他们送回海外潜在危险的环境时。

亚马逊网络服务首席执行官安德鲁·贾西(Andrew Jassy)在今天的全体员工会议上告诉员工,“我们对亚马逊Rekognion在执法和非执法领域为我们的各种规模和各种行业的客户提供的价值感到非常高兴和强烈,一名亚马逊员工在匿名的情况下与Verge交谈,并提供了部分谈话记录。今天下午早些时候,Gizmodo首先报道了Jassy的评论。

亚马逊没有立即发表评论。

亚马逊的云计算部门AWS负责为Rekognition提供电力,目前佛罗里达州和俄勒冈州的警察部门正在使用Rekognition。亚马逊首席执行官杰夫·贝佐斯(Jeff Bezos)邀请贾西专门回答一个关于Rekognition和可能与ICE等组织签订的**合同的问题。Jassy接着说,“你不想摆脱这项技术”,但指出违反AWS的服务条款或侵犯宪法权利将迫使亚马逊禁止使用其服务。然而,他确实指出,该公司认为“**有责任帮助明确规定技术法规的指导方针。”

在亚马逊参与**合同和Rekognion的同时,研究证明该系统在准确性和固有种族偏见方面都存在严重缺陷。美国公民自由联盟(American Civil Liberties Union)在今年夏天对Rekognion进行了测试,发现该系统从25000张照片的数据库中错误识别了28名国会议员(亚马逊在其研究中反驳了美国公民自由联盟的发现,其深度学习和人工智能总经理马特·伍德(Matt Wood)在7月份的一篇博客文章中说,亚马逊使用Rekognition API测试的数据生成的置信率为80%,远低于其建议的执法比赛置信率99%。)

该公司还拒绝参与美国国家标准与技术研究所(National Institute of Standards and Technology)开展的一项关于算法偏见的综合研究,该研究旨在确定种族和性别偏见何时可能影响人脸识别算法的错误率。

亚马逊并不是唯一一家在产品如何销售给美国**以及如何被美国**使用的问题上遭遇自身员工**的科技巨头。谷歌领导层今年因参与五角大楼无人驾驶飞机项目Maven而面临巨大的反弹,迫使该公司宣布明年不再续约,并公布一套关于人工智能使用和产品开发的道德准则。谷歌还因计划在中国市场推出符合**审查政策的新闻和搜索产品而受到抨击。

以下是全体人员会议交流的完整记录:

Q: What is being done in resp***e to the concerns voiced by both Amazon employees and civil rights groups regarding Amazon selling facial recognition technology to government and police organizati***, including ICE?

Amazon CEO Jeff Bezos: Good. Andy, do you want to take that one?

AWS CEO Andrew Jassy: Thank you, so we’re referring to Amazon Rekognition, which is AWS’ deep learning image recognition, facial recognition, video recognition service and, you know, with over five hundred thousand employees like we have at Amazon, I think we’re going to have people who have opini*** that are very wide-ranging, which is great. But we feel really great and really strongly about the value that Amazon Rekognition is providing our customers of all sizes and all types of industries in law enforcement and out of law enforcement.

You see it in the value people are actually getting even after just about a year, year and a half of the service, where Rekognition is actively been used to help stop human trafficking, to reunite missing kids with parents for educational applicati***, for security and multi-factor authentication to prevent theft.

There’s a lot of value being enjoyed from Amazon Rekognition. Now now, of course, with any kind of technology, you have to make sure that it’s being used resp***ibly, and that’s true with new and existing technology. Just think about all the evil that could be done with computers or servers and has been done, and you think about what a different place our world would be if we didn’t know how people have computers.

So you don’t want to get rid of that technology. You want to make sure that people use the technology resp***ibly, and we have a set of terms and services in AWS. And with all our services, including Rekognition, where if people violate those terms of services and don’t use them resp***ibly, they won’t be able to use our services any longer. In fact, if we find the people are violating folks c***titutional rights, they won’t be able to use the services. I also think, by the way, in a democracy is also often the role in the resp***ibility of the government to help specify what the guidelines of regulati*** should be about technology. And, if and when that happens, we will abide by those as well. Thank you.

美国东部时间11月8日晚上7:16更新:增加了有关亚马逊Rekognion系统缺陷研究的信息。

更正:本文的早期版本错误地指出,BuzzFeed首先报告了亚马逊全体员工会议的细节。这是不正确的;Gizmodo首先发布了这条消息。

  • 发表于 2021-08-26 12:28
  • 阅读 ( 88 )
  • 分类:互联网

你可能感兴趣的文章

面部识别搜索是如何破坏你的隐私的

...部识别也渗透到了我们的离线生活中。全球最大的零售商亚马逊(Amazon)通过收购Whole Foods和Amazon Go杂货店,一直在向实体店扩张。亚马逊Go商店是免费结账的,尽管他们确实依赖摄像头,但据报道他们不使用面部识别。 ...

  • 发布于 2021-03-20 04:45
  • 阅读 ( 187 )

避免在网上和公共场合出现面部识别的4种方法

一场关于人脸识别软件合法性的激烈辩论仍在继续,**和执法部门越来越多地使用这种软件。更不用说使用某种面部识别的私人公司的数量了。 ...

  • 发布于 2021-03-20 12:44
  • 阅读 ( 231 )

明尼阿波利斯警方禁止使用面部识别软件

...。这项禁令将明尼阿波利斯列入限制或终止明尼阿波利斯执法人员和城市雇员使用此类技术的美国城市名单。 但据《星论坛报》报道,明尼阿波利斯警察局长梅达丽亚·阿拉东多(Medaria Arradondo)在一份声明中说,这...

  • 发布于 2021-04-16 11:15
  • 阅读 ( 216 )

当执法部门试图识别国会暴徒时,clearview人工智能面部识别技术的使用受到了刺激

...为,如果警察部门使用这项技术的行为正常化,我们知道它将被用来对付大多数人:已经遭受苦难的黑人和棕色社区成员在种族主义的刑事执行制度下。” Clearview AI在5月份表示,将停止向私人公司**其技术,而只提供给执法部...

  • 发布于 2021-04-16 17:01
  • 阅读 ( 274 )

马萨诸塞州即将成为第一个禁止警察使用面部识别的州

...何根据这些数据训练模型的过程中还存在其他种族偏见。亚马逊今年6月禁止警方在一年内使用其面部识别平台,该公司表示,希望给国会“足够的时间来实施适当的规则”,以管理该技术的销售和使用。 亚马逊紧随IBM的步伐,...

  • 发布于 2021-04-16 23:50
  • 阅读 ( 218 )

监控公司利用自己的面部识别技术骚扰女性员工

...,Verkada的战略是“让文化真正有趣” Verkada试图将自己与亚马逊的监控系统区分开来,称其客户(包括Juul Labs、Equinox和Red Lobster)不与执法机构合作。但在YouTube上一段名为“Verkada for law enforcement”的视频中,该公司表示,它与...

  • 发布于 2021-04-17 17:09
  • 阅读 ( 143 )

波特兰通过了美国最严厉的面部识别禁令

...的生物识别信息的各种方式的侵害。”。 据OneZero报道,亚马逊花了24000美元游说波特兰市议会委员反对这项禁令。该公司因向警察部门**其Rekognition软件而饱受抨击,直到最近才同意暂时暂停向警察提供该技术一年。

  • 发布于 2021-04-17 20:57
  • 阅读 ( 211 )

clearview ai首席执行官说,“超过2400家警察机构”正在使用其面部识别软件

...能站在辩论的中心,谈论隐私问题,”Ton在采访中说,他继续称《****》的调查“实际上非常公平”。“从那时起,有很多争议,但从根本上说,这对社会来说是一个非常好的工具,”Ton说。 这也提供了一些关于企业运营的更多...

  • 发布于 2021-04-18 09:10
  • 阅读 ( 221 )

福特员工要求公司停止生产警车

...xtdoor停止了一个允许用户将帖子转发给执法部门的程序。亚马逊甚至宣布将在一年内停止允许警方使用其面部识别技术,微软也做出了类似的承诺。这一切发生在整个科技行业的员工在过去一年里也一直在**他们公司与**机构签...

  • 发布于 2021-04-18 12:12
  • 阅读 ( 167 )

rite aid在数百家商店秘密使用面部识别技术

...弃这项技术。IBM表示,它将不再投资或开发这项技术,而亚马逊和微软都表示,在国会通过有关其销售和使用的法律之前,他们将暂停与执法部门签订面部识别合同。加州奥克兰等多个市**也开始禁止警方使用这项技术。 激进分...

  • 发布于 2021-04-18 16:35
  • 阅读 ( 198 )
manlypolitics
manlypolitics

0 篇文章

相关推荐