摘要: Google的一个关键团队审查了新的AI产品,以遵守其负责人AI开发规则,其领导者本月离开后面临着不确定的未来。
谷歌AI伦理监管团队被重组
谷歌首席执行官桑达尔·皮查伊本月通过电子邮件向员工传达了公司2024年的首要任务,其中包括负责任地开发人工智能。然而,一些员工现在对谷歌能否实现这一目标表示怀疑。据四位知情人士透露,负责监督公司内部AI伦理的小团队已经失去了领导者,并正在进行重组。谷歌发言人表示,该团队的工作将以更强大的形式继续进行,但拒绝提供详细信息。
谷歌的负责任创新团队,即RESIN,位于公司全球事务部的合规与诚信办公室。该团队负责审查内部项目,以确保其与谷歌的AI原则相符,这些原则定义了技术的开发和使用规则。根据谷歌本月发布的一份年度报告,RESIN去年进行了500多项审查,其中包括对Bard聊天机器人的审查。
自从负责负责任创新的领导者兼创始人詹·根纳伊突然离职以来,RESIN的角色一直不确定。消息人士透露,根纳伊的LinkedIn个人资料显示她目前在谷歌担任AI伦理和合规顾问,这表明她很快将离开公司。
谷歌将根纳伊的团队分成两个部分。公司发言人布赖恩·加布里埃尔表示,RESIN的10%员工将继续留任,而团队的90%被调到了信任与安全部门。这个部门负责打击谷歌服务的滥用行为,并且也属于全球事务部。消息人士表示,似乎没有人被解雇。目前尚不清楚这些变化的原因以及责任如何分配。一些消息人士表示,他们还没有被告知未来将如何处理AI原则审查。
加布里埃尔拒绝透露RESIN未来的AI项目审查将如何处理,但他表示这次重组表明谷歌致力于负责任的AI开发。他说:“这次调整将把这个负责任的AI团队置于我们成熟的信任与安全工作的中心,这些工作已经融入到我们的产品审查和计划中。这将帮助我们在整个公司加强和扩展我们的负责任创新工作。”
谷歌经常调整其组织架构,但RESIN团队自成立以来基本上没有受到影响。虽然谷歌的其他团队和数百名员工都在从事AI监管工作,但RESIN是最重要的团队,负责谷歌所有核心服务的监管。
除了领导者根纳伊的离职,RESIN还见证了其中一位最有影响力的成员萨拉·唐德尔本月离职。根据她的LinkedIn个人资料,她现在是Salesforce的负责AI产品的总监。唐德尔拒绝置评,根纳伊也未回应置评请求。
谷歌于2018年成立了负责任创新团队,此前谷歌的AI专家和其他人公开抗议了一项名为“Project Maven”的五角大楼合同,该合同使用谷歌算法分析无人机监视图像。在抗议之后,谷歌引入了一套AI原则,RESIN成为这些原则的核心监管者。这些原则指出,谷歌将利用人工智能造福人类,绝不用于武器或破坏人权。根纳伊是这些原则的合著者。
谷歌的各个团队可以向RESIN提交项目进行审查,RESIN会提供反馈,并有时阻止违反AI原则的想法。该团队曾阻止发布可以用于制作深度伪造的AI图像生成器和语音合成算法。
与隐私风险审查相比,向AI原则寻求指导并不是大多数团队的强制要求。但根纳伊表示,对AI系统进行早期审查可以避免昂贵的伦理违规行为。她在2022年的一次谷歌会议上表示:“如果正确实施,负责任的AI可以通过发现和减少不公平偏见可能引起的伤害,提高透明度和增强安全性,从而使产品更好。”
![](https://huluwaai.com/wp-content/uploads/2024/05/1715943925-文章顶部banner带二维码.jpg)
相关文章
终身版AI工具
![](https://huluwaai.com/wp-content/uploads/2024/05/1715944041-终身版海报0517.jpg)