timnit gebru的论文或许可以解释谷歌为什么要开除她

据麻省理工学院《技术评论》(MIT Technology Review)报道,前谷歌人工智能伦理学家蒂姆尼特•格布鲁(Timnit Gebru)与人合著的一篇论文为谷歌提出了一些潜在的棘手问题:人工智能语言模型是否太大,科技公司是否在降低潜在风险方面做得足够多。论文还质疑了大型语言模型的环境成本和固有偏见。...

据麻省理工学院《技术评论》(MIT Technology Review)报道,前谷歌人工智能伦理学家蒂姆尼特•格布鲁(Timnit Gebru)与人合著的一篇论文为谷歌提出了一些潜在的棘手问题:人工智能语言模型是否太大,科技公司是否在降低潜在风险方面做得足够多。论文还质疑了大型语言模型的环境成本和固有偏见。

007Ys3FFgy1gpm2biu7bij31v818tain

谷歌的人工智能团队在2018年创建了这样一个语言模型——伯特(BERT),它非常成功,以至于谷歌将伯特(BERT)纳入了自己的搜索引擎。搜索是谷歌业务中利润丰厚的一部分;仅在今年第三季度,它就带来了263亿美元的收入。“今年,包括本季度,谷歌的创始产品搜索对人们来说是多么有价值,”首席执行官Sundar Pichai在10月份与投资者的电话会议上说。

Gebru和她的团队提交了他们的论文,题目是“随机鹦鹉的危险:语言模型会不会太大?”?“为了一个研究会议。她在周三的一系列推文中说,经过内部审查后,她被要求收回该报或从中删除谷歌员工的名字。她说,她向谷歌提出了将她的名字从报纸上删除的条件,如果他们不能满足这些条件,他们可以“最后一次约会。”格布鲁说,她随后收到谷歌的一封电子邮件,通知她他们“立即接受她的辞职”

谷歌人工智能的负责人杰夫·迪恩(Jeff Dean)在给员工的一封电子邮件中写道,这篇论文“不符合我们的出版标准”。他写道,Gebru继续在谷歌工作的条件之一是,公司要告诉她谁审阅了这篇论文以及他们的具体反馈,但公司拒绝这样做。蒂姆尼特写道,如果我们不能满足这些要求,她将离开谷歌,在一个截止日期工作。我们接受并尊重她从谷歌辞职的决定。

迪恩在信中写道,这篇论文“忽略了太多相关研究”,该论文的合著者、华盛顿大学计算语言学教授艾米莉·M·本德(Emily M.Bender)对此提出了异议。本德告诉麻省理工学院技术评论说,这篇有六位合作者的论文是“任何一位作者甚至两位作者都做不到的工作”,并指出这篇论文有128篇参考文献的引用列表。

Gebru以她在算法偏差方面的工作而闻名,尤其是在面部识别技术方面。2018年,她与Joy Buolamwini合著了一篇论文,表明识别深色皮肤的人的错误率远远高于识别浅色皮肤的人的错误率,因为用于训练算法的数据集绝大多数是白人。

格布鲁在周四发表的一次采访中告诉《连线》杂志,她觉得自己受到了审查。她说:“你不会有那些能让公司一直开心、不指出问题的文件。”。“这和做那种研究者的意义是相反的。”

自从她被解雇的消息公开后,包括1500多名谷歌员工在内的数千名支持者签署了**信。这份名为“与蒂姆尼特·格布鲁博士站在一起”的**书写道:“我们,以下签名者,声援蒂姆尼特·格布鲁博士,在前所未有的研究审查之后,她被解除了谷歌员工研究科学家和道德人工智能(AI)团队联合领导的职务。”。

“我们呼吁谷歌研究加强其对研究诚信的承诺,并明确承诺支持履行谷歌人工智能原则中所作承诺的研究。”

**者要求迪恩和其他“参与审查盖布鲁博士论文决定的人与道德人工智能团队会面,解释论文被领导层单方面拒绝的过程。”

谷歌周六没有立即回应置评请求。

  • 发表于 2021-04-17 00:43
  • 阅读 ( 145 )
  • 分类:互联网

你可能感兴趣的文章

alphabet股东推动谷歌加强对举报者的保护

...项目出轨,我们知道的同事可以告诉我们。”。“这就是为什么举报的安全性如此重要。而这正是我们试图与工会建立的关系。” 新的提议是基于一个仍然激进的观点,即告密者对商业有利。“告密者保护的是投资者,而不是...

  • 发布于 2021-04-15 19:48
  • 阅读 ( 185 )

谷歌人工智能经理在两名顶尖研究人员被解雇后辞职

...后一天是4月28日。 Bengio是star AI伦理研究人员Timnit Gebru和Margaret Mitchell的有力倡导者,他们曾共同领导过伦理AI团队。Gebru去年12月在撰写一篇关于大型语言模型的危险性的论文时被解雇。今年2月,米切尔在使用脚本搜...

  • 发布于 2021-04-15 19:52
  • 阅读 ( 144 )

随着中国在人工智能期刊引文方面超过美国,人工智能研究继续增长

...越来越突出。2020年,谷歌解雇研究员蒂姆尼特·盖布鲁(Timnit Gebru)和IBM退出面部识别业务等故事推动了人们对人工智能技术应如何应用的讨论。但报告指出,尽管企业乐于口头上遵守道德原则,但这些“承诺”大多没有约束力...

  • 发布于 2021-04-16 00:22
  • 阅读 ( 116 )

据报道,谷歌人力资源部建议精神健康休假,以回应有关种族主义或性别歧视行为的投诉

...去年12月谷歌人工智能伦理研究人员蒂姆尼特·盖布鲁(Timnit Gebru)被解雇之后发布的。盖布鲁拒绝了一位经理的要求,收回了一篇描述谷歌搜索引擎所依赖的语言模型的危险性的论文。Gebru给Brain Women及其盟友listserv写了一封电...

  • 发布于 2021-04-16 01:22
  • 阅读 ( 181 )

两名谷歌工程师因解雇道德人工智能领导人蒂姆尼特·盖布鲁而辞职

...治疗前道德人工智能团队联席领导人蒂姆尼特·格布鲁(Timnit Gebru)而辞职。工程总监大卫·贝克(davidbaker)说,格布鲁被解雇“熄灭”了他留在公司的愿望。软件工程师Vinesh Kannan说,他离职是因为Gebru和多元化招聘公司April Chri...

  • 发布于 2021-04-16 08:05
  • 阅读 ( 440 )

timnit gebru被解雇后,谷歌正在重组其人工智能团队

在Timnit Gebru被解雇后,谷歌正在重组其负责任的人工智能团队。道德人工智能团队现在将向工程部著名黑人高管玛丽安·克劳克(Marian Croak)靠拢。据彭博社报道,克罗克还将监督专注于工程公平产品的员工。她将向负责公司人...

  • 发布于 2021-04-16 12:44
  • 阅读 ( 152 )

在解雇了一位顶尖的人工智能伦理学家之后,谷歌正在改变其多样性和研究政策

Axios称,谷歌在完成了对道德人工智能团队联席领导人Timnit Gebru被解雇的内部调查后,正在改变与研究和多样性相关的政策。该公司打算将某些高管的薪酬与多元化和包容性目标挂钩。它还改变了管理员工离职的敏感程度。 ...

  • 发布于 2021-04-16 13:04
  • 阅读 ( 136 )

谷歌在内部调查后解雇了第二位人工智能伦理研究员

...要求收回这篇文章。Gebru反驳说,公司需要更开放地解释为什么这项研究不被接受。不久之后,她被解雇,不过谷歌将她的离职定性为辞职。 Gebru离职后,米切尔开始公开批评谷歌高管,包括谷歌人工智能部门主管杰夫·迪恩和...

  • 发布于 2021-04-16 13:09
  • 阅读 ( 229 )

谷歌员工宣布成立工会计划

...一家以反对工会而闻名的公司。 此前,著名的AI伦理学家Timnit Gebru在12月被解雇。字母表工人工会在宣布工会的新闻稿中写道:“此次解雇引起了我们数千人的愤怒,包括黑人和棕色工人,他们对公司的行为心碎,对他们在谷歌...

  • 发布于 2021-04-16 15:20
  • 阅读 ( 218 )

以下是我们目前对谷歌联盟的了解

...一些问题。什么是少数民族联盟?230个成员不是很小吗?为什么涉及CWA? 以下是我们到目前为止对字母工人工会的了解,以及我们仍在等待的结果。 这个联盟是从哪里来的? 在过去三年中,谷歌员工一直在组织大规模的**和**...

  • 发布于 2021-04-16 15:40
  • 阅读 ( 350 )
tnrkm8331
tnrkm8331

0 篇文章

相关推荐