据报道，亚马逊取消了对女性有偏见的内部人工智能招聘工具

即使对于像亚马逊这样拥有丰富人工智能经验的公司来说，机器学习中的偏见也是一个问题。据路透社报道，这家电子商务巨头放弃了一个内部项目，该项目试图使用人工智能来审查求职申请，因为该软件一直在降低女性求职者的评级。...

即使对于像亚马逊这样拥有丰富人工智能经验的公司来说，机器学习中的偏见也是一个问题。据路透社报道，这家电子商务巨头放弃了一个内部项目，该项目试图使用人工智能来审查求职申请，因为该软件一直在降低**求职者的评级。

因为人工智能系统通过查看历史数据来学习决策，所以它们往往会使现有的偏见永久化。在这种情况下，这种偏见是科技界**主导的工作环境。据路透社报道，亚马逊的计划惩罚所有女子学院的申请者，以及任何含有“女子”字样的简历（可能出现在“女子象棋俱乐部”一词中）。

据报道，该项目背后的团队打算加快招聘过程。”他们真的想让它成为一个引擎，我会给你100份简历，它会吐出前五名，我们会雇用他们，”一位熟悉这项工作的匿名消息人士告诉路透社。当该公司意识到该软件没有产生性别中立的结果时，就对其进行了调整，以消除这种偏见。然而，相关人员无法确定该计划是否存在其他偏见，因此该计划于去年被完全取消。

亚马逊的一位消息人士在接受《边缘》杂志采访时表示，该程序只在试验中使用过，从未单独使用过，也从未推广到更大的群体。来文提交人还指出，该项目被放弃的原因有很多，不仅仅是性别偏见问题，这一问题最终得到了解决。亚马逊发言人在一份声明中证实，该程序从未以官方身份使用，并告诉Verge，“亚马逊招聘人员从未使用该程序评估候选人。”

在过去的几年里，随着人工智能在越来越多的环境中得到应用，研究人员对偏见的危险越来越直言不讳。对性别和种族的偏见很容易渗透到一系列人工智能程序中——从面部识别算法到法庭和医院使用的算法，无所不包。

在大多数情况下，这些计划只是延续了现有的偏见。例如，在亚马逊的简历扫描器中，招聘人员可能在潜意识中对**候选人抱有同样的偏见。但是，通过将这些偏见传递给计算机程序，我们使它们变得不那么明显，也不那么容易纠正。这是因为我们倾向于相信机器的决定，因为人工智能程序无法解释它们的思维。

尽管如此，许多致力于人工智能招聘工具的初创公司明确地将其服务作为一种避免偏见的方式进行销售，因为，比如说，某些候选人的偏好可以编码进来。亚马逊显然也在考虑这些问题，据路透社报道，该公司正在另一次尝试建立一个人工智能招聘工具，这一次“关注多样性”

更新时间：美国东部时间10月10日星期三上午11:20:00：更新内容补充评论。

更新时间：美国东部时间10月11日星期四下午5:43：亚马逊官方评论更新。

发表于 2021-08-25 20:00
阅读 ( 108 )
分类：互联网

你可能感兴趣的文章

据报道，facebook因在招聘和晋升中存在“系统性”种族偏见而受到调查

据路透社报道，平等就业机会委员会（EEOC）正在调查有关Facebook种族偏见和招聘行为的指控，该机构将此调查定为“系统性的”。今年7月，Facebook雇员奥斯卡•韦尼西（Oscar Veneszee，Jr.）与两名韦尼西招聘的员工一起...

发布于 2021-04-16 01:19
阅读 ( 151 )

据报道，github解雇了一名犹太雇员，后者警告同事远离纳粹

...tter和谷歌等公司最近的员工活动。去年12月，谷歌解雇了人工智能伦理学家蒂姆尼特·格布鲁（Timnit Gebru），引发了硅谷各地科技工作者的一波谴责。 GitHub没有立即回应Verge的置评请求。

发布于 2021-04-16 17:59
阅读 ( 157 )

据报道，facebook绕开了自己的规则，以保护保守派免受纪律处分

据《*****》报道，在过去几个月里，保守派团体——包括特朗普总统的同僚——往往没有因为违反Facebook的规定而受到惩罚，因为Facebook的人担心人们对反保守偏见的看法。帖子调查了帖子和广告支出以及Facebook的内部...

发布于 2021-04-17 05:43
阅读 ( 146 )

据报道，亚马逊计划为其农村送货提供新的服务

周一发布的信息显示，几份招聘启事显示，亚马逊可能希望自己处理向农村地区的快递业务，而不是依赖美国邮政服务。这家电子商务巨头将根据一项名为“wagon wheel”的计划，依托农村地区的航运枢纽，这一计划指...

发布于 2021-04-17 05:50
阅读 ( 95 )

据报道，三星切断了对华为的芯片销售

据报道，随着特朗普**加强对华为的制裁，三星和SK-Hynix将停止向华为销售组件。据朝鲜日报和其他韩国新闻媒体报道，这两家公司将于9月15日暂停交易，这一天将与华为达成一套新的交易规则。这些制裁措施是继去...

发布于 2021-04-17 20:25
阅读 ( 128 )

亚马逊取消了对伊恩·m·班克斯科幻文化系列的电视改编

...之一，包含了各种各样的故事，包括仇外外星人、超智能人工智能和虚拟地狱。这些书的随意性在一定程度上归因于银行环境的天才：与之同名的文化文明，这是一个由人工智能管理的后稀缺社会。文化公民，从工作或衰老的负...

发布于 2021-04-18 09:03
阅读 ( 127 )

facebook将研究其算法是否存在种族偏见

...研究其主要社交网络和Instagram的种族偏见，特别是其使用人工智能训练的算法是否会对黑人、西班牙裔和其他代表性不足的群体产生不利影响。Facebook的一位发言人告诉Verge，这个团队将“负责确保我们所做的每件事都有公平和...

发布于 2021-04-18 15:08
阅读 ( 193 )

亚马逊明年禁止警方使用其面部识别技术

...识别技术，理由是可能侵犯人权和隐私，研究表明，尽管人工智能取得了进展，但面部识别技术仍存在年龄、性别、种族和种族偏见。许多揭示现代面部识别技术在种族偏见方面缺陷的基础性工作都要归功于麻省理工学院媒体...

发布于 2021-04-19 02:14
阅读 ( 208 )

俄罗斯解除了对电报信使应用程序的禁令

...项禁令大多无效，并导致一片混乱，互联网服务提供商在亚马逊和谷歌云平台上屏蔽了1580万个IP，影响了使用这些服务的俄罗斯企业。据《独立报》报道，俄罗斯还封锁了Telegram可能用来隐藏流量的互联网匿名器和VPN服务。许多...

发布于 2021-04-19 03:36
阅读 ( 277 )

据报道，微软在Windows8中取消了对桌面小工具的支持

据报道，最初在WindowsVista中引入的Windows桌面小工具将从Windows8的最终版本中删除。这是来自Win8china的一个词，这个网站已经获得了windows8的最新内部版本之一。尽管Windows8消费版和发行版预览版支持，但Windows8的build 844x（不公开...

发布于 2021-04-23 01:57
阅读 ( 82 )

据报道，亚马逊取消了对女性有偏见的内部人工智能招聘工具

你可能感兴趣的文章

相关推荐