摘要: Google的AI搜索功能造成了流行的错误后,Google赶到了修复程序。生成AI的基本局限性意味着有时仍然会搞砸。
Google承认AI搜索功能存在风险
Google最近承认其算法建议人们“吃石头”和在披萨上涂胶水,需要调整其新的生成式AI搜索功能。这一事件凸显了Google积极推动商业化生成式AI的风险,以及该技术的危险和基本限制。
Google的AI概述功能利用Gemini,一个类似于OpenAI的CHAT GPT背后的大型语言模型,通过总结在线信息生成对一些搜索查询的书面答案。当前的AI热潮建立在LLMs对文本的出色流畅性之上,但软件也可以利用这种能力对不实或错误信息进行修饰。当在线来源相互矛盾或人们可能使用信息做出重要决定时,使用技术总结在线信息可能会使搜索结果更易消化,但也具有危险性。
Google搜索负责人Liz Reid在公司的博客文章中表示,他们在推出AI概述之前进行了广泛测试。但她补充说,像“吃石头”和“涂胶水在披萨上”这样的错误促使他们做出了额外的改变。Google表示,这些改变包括更好地检测“荒谬的查询”,并使系统不那么依赖用户生成的内容。
Socher表示,You.com经常避免了Google的AI概述显示的错误,因为他的公司开发了大约十几种技巧,以防止LLMs在搜索时出现问题。
Google对其最广泛使用和盈利能力最强的产品进行的生成式AI升级是受OpenAI在2022年11月发布聊天机器人CHAT GPT启发的技术行业全面重启的一部分。
© 版权声明
文章版权归作者所有,未经允许请勿转载。
![](https://huluwaai.com/wp-content/uploads/2024/05/1715943925-文章顶部banner带二维码.jpg)
相关文章
暂无评论...
终身版AI工具
![](https://huluwaai.com/wp-content/uploads/2024/05/1715944041-终身版海报0517.jpg)