ibm希望通过新的多样化数据集与人脸识别中的偏见作斗争

偏见是面部识别中的一个大问题,研究表明,如果你是白人和男性,商业系统会更准确。造成这种情况的部分原因是训练数据缺乏多样性,有色人种出现的频率低于同龄人。IBM是试图解决这一问题的公司之一,今天宣布了两个新的公共数据集,任何人都可以使用它们来训练面部识别系统——其中一个专门用于帮助消除偏见。...

偏见是面部识别中的一个大问题,研究表明,如果你是白人和**,商业系统会更准确。造成这种情况的部分原因是训练数据缺乏多样性,有色人种出现的频率低于同龄人。IBM是试图解决这一问题的公司之一,今天宣布了两个新的公共数据集,任何人都可以使用它们来训练面部识别系统——其中一个专门用于帮助消除偏见。

第一个数据集包含100万张图像,将有助于训练能够识别特定属性的系统,如头发颜色、眼睛颜色和面部毛发。每一张脸都带有这些特征,这使得程序员更容易磨练他们的系统,以便更好地区分山羊胡子和灵魂补丁。这不是培训面部识别系统的最大公共数据集,但IBM表示,它是包含此类标签的最大公共数据集。

第二个数据集更有趣。它比第一张小,包含36000张图片,但是里面的面孔是种族、性别和年龄的平等混合。与面部属性标签帮助训练AI系统识别这些差异的方式相同,拥有不同的面部组合应该有助于系统克服各种偏见。这两个数据集都是从使用CreativeComm***许可证发布到Flickr的图片中提取的,这些许可证通常允许它们用于研究目的。

IBM Watson的首席架构师Ruchir Puri告诉Verge,他不知道还有其他类似的关注多样性的公共数据集。”这个数据集[…]应该真的能帮助设计师调整他们的算法,”普里说数据是人工智能的基础,不仅仅是建立我们自己的能力,还包括社区的能力。

IBM的商业人脸识别系统在过去曾因显示该数据集旨在消除的偏见而受到批评。麻省理工学院媒体实验室(MIT Media Lab)二月份公布的一项研究发现,IBM在识别深色皮肤**性别方面的错误率接近35%,而白人**只有1%的错误率。随着面部识别系统被用于从**到识别犯罪嫌疑人的任务,这些错误将变得越来越重要。

IBM表示,当时正致力于改善这些错误,其面部识别系统的更新版本使用了更广泛的训练集(如今天宣布的训练集),在与麻省理工学院科学家进行的测试“类似”的测试中,将错误减少了近十倍。然而,如果没有评估偏差的标准化指标,仍然很难准确判断这些系统的改进程度。

Puri告诉Verge,IBM有兴趣帮助建立此类测试,并表示,今年9月,该公司将与学术界一起举办研讨会,以制定更好的基准。”“应该有矩阵,通过它可以判断这些系统中的许多,”普里说但评判应该由社区来进行,而不是由任何特定的参与者来进行。”

  • 发表于 2021-08-24 15:06
  • 阅读 ( 94 )
  • 分类:互联网

你可能感兴趣的文章

facebook与英国报纸上的假新闻作斗争

...政策总监西蒙·米尔纳(Simon Milner)对BBC新闻说,“人们希望在Facebook上看到准确的信息,我们也是。为了帮助人们发现虚假新闻,我们展示了一些技巧[…]如何识别他们看到的东西是否是虚假的。 ...

  • 发布于 2021-03-14 18:45
  • 阅读 ( 208 )

在你的新iphone上使用faceid安全吗?

... 此外,您还可以使用faceid授权通过applepay、iTunes和appstore进行购买。它还可以自动填充密码。 ...

  • 发布于 2021-03-21 12:40
  • 阅读 ( 256 )

人脸识别码和触摸识别码有多安全?

...无用处。苹果公司努力关闭类似这种漏洞的设备,但人们希望有一个发薪日工作同样努力打开新的。 Touch-ID和Face-ID非常方便,如果它们有强大的密码备份,几乎每个人都可以安全地日常使用。如果你是一个坚定的黑客或**机构...

  • 发布于 2021-04-06 09:51
  • 阅读 ( 166 )

因为测试软件看不到有色人种的学生,有色人种的学生被老师盯上了

...偏见的问题)。在学习了这一点之后,他使用OpenCV和一个数据集进行了测试,该数据集旨在验证机器视觉算法处理不同人脸的能力。根据他的第二篇博文,结果并不好。 该软件不仅在超过一半的时间里无法识别黑人面孔,...

  • 发布于 2021-04-15 20:59
  • 阅读 ( 170 )

英特尔推出了realsense id,面部识别技术,该技术使用了该公司的深度传感摄像头

...要困难得多。 英特尔已经采取措施,通过构建一个更加多样化的人脸样本来训练RealSense,来解决RealSense中潜在的偏见。“我们已经对亚洲、欧洲、中东和非洲的所有种族进行了广泛的数据收集,”英特尔在新设备的新闻发布会...

  • 发布于 2021-04-16 16:06
  • 阅读 ( 162 )

马萨诸塞州即将成为第一个禁止警察使用面部识别的州

...月禁止警方在一年内使用其面部识别平台,该公司表示,希望给国会“足够的时间来实施适当的规则”,以管理该技术的销售和使用。 亚马逊紧随IBM的步伐,同一个月,IBM宣布,在承认研究人员和活动人士对该技术可能用于种...

  • 发布于 2021-04-16 23:50
  • 阅读 ( 220 )

一项新的政府研究称,面具正在破坏面部识别算法

...计,这项技术仍将持续下去。“关于面具的精确性,我们希望这项技术能继续改进,”Ngan说。

  • 发布于 2021-04-18 16:25
  • 阅读 ( 200 )

ibm将不再提供、开发或研究面部识别技术

...助解决面部识别中的偏见问题,在2018年发布了一个公共数据集,旨在帮助减少偏见,作为面部识别模型训练数据的一部分。但IBM也被发现在未经受试者同意的情况下共享了一组单独的培训数据,其中包括2019年1月从Flickr拍摄的近...

  • 发布于 2021-04-19 01:49
  • 阅读 ( 201 )

亚马逊明年禁止警方使用其面部识别技术

...(Andrew Jassy)表示,公司将继续向警方**这项技术。只有通过媒体报道和活动人士,以及Buolamwini等研究人员的工作,强调警察使用Rekognition等面部识别技术的陷阱,各部门才开始终止与亚马逊的合同。 以下是亚马逊关于一年禁令...

  • 发布于 2021-04-19 02:14
  • 阅读 ( 208 )

在国会通过新的隐私法之前,微软不会向警方出售面部识别系统

微软紧随竞争对手亚马逊(Amazon)和IBM(IBM)的步伐,限制向第三方(尤其是执法机构)提供面部识别技术的方式。该公司说,它目前没有向警方提供这项技术,但它已经成功了’他现在说,除非有联邦法律规定如何在不侵犯人...

  • 发布于 2021-04-19 02:25
  • 阅读 ( 201 )
九而知白鹿
九而知白鹿

0 篇文章

相关推荐