Google摊上事了!开除知名AI研究员,引上千名学者和员工抗议

2020-12-08 17:18:02  阅读 91 次 评论 0 条

  Gebru的支持者表示,谷歌的政策“实施得不均衡且具有歧视性”。

  最近,科技圈的发生了一件大事,知名AI学者之一、人工智能伦理研究员Timnit Gebru被谷歌突然开除,引得一众哗然。

  Timnit Gebru毕业于斯坦福大学,师从李飞飞,是AI行业为数不多的黑人女性领导者之一,在AI伦理领域,Gebru不仅是基础研究者,更是许多年轻学者的榜样

  她最知名的研究是在2018年发现,面部识别软件对黑人女性有高达35%的错误率,而对白人男性几乎完全正确。

  Google摊上事了!开除知名AI研究员,引上千名学者和员工抗议第1张-YMS黑板报

  然而,因一篇论文不符合谷歌内部评审,Gebru宣称被谷歌单方面辞退。

  一篇论文引发的争议

  大约一周前,Gebru对外宣称,因与他人共同撰写了一篇批评谷歌AI系统的研究论文后,自己被谷歌解雇了。

  然而,谷歌对外表示,因论文审查不符合谷歌要求,接受Gebru的个人辞职申请。

  据外媒报道,这篇论文标题为“On the Dangers of Stochastic Parrots: Can Language Models Be Too Big?”(随机鹦鹉的危险:语言模型会太大吗?),由谷歌的内部团队和外部研究人员共同撰写,提出科技公司应该做更多事情,以确保AI写作和语音识别不会加剧歧视

  值得注意的是,论文内容谈到了谷歌BERT(自然语言处理系统)在AI伦理上的负面影响。

  Google摊上事了!开除知名AI研究员,引上千名学者和员工抗议第2张-YMS黑板报

  一开始,双方的争议点在于审查流程的问题。根据谷歌公司发表论文的流程,Gebru应在两周前提交论文,而不是在最后期限的前一天。

  但Gebru的团队对这一评估进行了反驳,称审查政策旨在灵活,大多数人并没有遵循目前谷歌AI负责人Jeff Dean制定的结构。该团队收集的数据显示,绝大多数的审批都发生在截止日期之前,41%的审批发生在截止日期之后。他们写道:“没有硬性要求论文必须在两周内真正通过这个审查。”

  同时,Dean认定该论文没有达到标准,因为它“忽视了太多相关研究”,从而要求她撤回这篇论文,或者删除谷歌员工的署名。

  据《泰晤士报》(the Times)报道,Gebru在撤回该论文之前,曾要求与谷歌进行进一步讨论。Gebru表示,如果谷歌不能解决她的担忧,她将从公司辞职。

  随后谷歌告诉Gebru,公司不能满足她的条件,并将立即接受她的辞职。

  Google摊上事了!开除知名AI研究员,引上千名学者和员工抗议第3张-YMS黑板报

  Dean还表示,Gebru煽动同事不要参与谷歌的DEI(多元化、公平和包容性)项目,他对此感到失望。

  不久,Gebru很快就发现已经无法登陆自己的公司账户,这表示她已经被开除了。

  离职后的风波

  离任后,总共有超过1,400名Google员工以及1,800多名其他行业专家签署了一封公开信,以支持Gebru。

  信中写道:“格布鲁博士并没有被谷歌誉为杰出的人才和多产的贡献者,而是面临着防御,种族主义,研究审查以及现在的报复性开除。”

  为Gebru辩护的前同事和外部行业研究人员们质疑,在这种情况下,谷歌是否武断地更严格地执行了规则。

  前Google员工发推文表示“我支持@timnitGebru”。

  共同参与论文的@MMitchell则转发Jeff Dean关于辞退的声明,并讽刺道:“‘没有达到出版的标准……它忽视了太多相关研究’……谷歌这样评论我们的论文,但我们的论文却有超过128个交叉学科的引用……所以(他们就)开除了其中一个作者,真是太奇怪了!”

  Google摊上事了!开除知名AI研究员,引上千名学者和员工抗议第4张-YMS黑板报

  这件事也加剧了Google管理层与一些普通员工之间的紧张关系。

  在Gebru发布离职推文的同一天,谷歌被美国国家劳动关系委员会(National Labour Relations Board)指控报复,该机构在投诉中称,谷歌通过监视,讯问和解雇维权雇员而违反了美国劳动法。

  Gebru的离职,还引起了已经对谷歌在人工智能道德方面的工作感到担忧的人群的反感。去年Google成立了一个AI道德委员会,之后便遭到了该小组人员的抨击。仅一周后,该委员会被解散。

本文地址:https://www.yms7.com/post/8530.html
版权声明:本文为原创文章,版权归 yms 所有,欢迎分享本文,转载请保留出处!

发表评论取消回复


表情

还没有留言,还不快点抢沙发?