财联社6月1日讯(编辑 牛占林)当地时间周五,科技巨头谷歌宣布,在发现“AI概览”(AI Overviews)功能出现了一系列错误信息后,已经对其AI系统进行了“十多项技术改进和更新”。

  在5月中旬的年度I/O开发者大会上,这家科技巨头发布了众多有关AI的产品和服务,其中一项内容是将AI融进其主导全球的搜索引擎之中,即AI概览功能,首先在美国市场推出。简而言之,当用户进行搜索时,首先出现在眼前的不再是网页链接,而是一块由AI整理的摘要。

  然而,不久之后,社交媒体用户开始分享AI概览给出的一系列离谱答案的截图。谷歌对此辩护称,AI概览功能通常是准确的,并且事先经过了广泛的测试。

  不过到了周五,谷歌搜索业务主管利兹·里德承认,一些奇怪的、不准确的或无益的AI搜索结果确实出现了。

  虽然其中许多搜索结果很愚蠢,但也有一些是危险或有害的谎言。比如,在披萨上涂胶水以帮助奶酪粘住,每天应该至少吃一块小石头等。再加上一些网友推波助澜,一些虚假的截图也在社交媒体上被广泛分享,导致事件热度越来越高。

  里德表示,已经对AI概览增加了更多的“触发限制”,以提高对某些查询问题(如健康相关问题)答案的准确性和可靠性。

  但在谷歌宣布更新,并经过测试后,发现仍然存在不少问题。谷歌AI概览旨在为人们提供他们正在寻找的信息的权威答案,而不必点击网站链接的排名列表,但目前看来,该功能仍然存在很大缺陷。

  一些AI专家长期以来也一直警告谷歌,不要将其搜索结果拱手让给AI生成的答案,这可能会延续偏见和错误信息,并危及在紧急情况下寻求帮助的人。大语言模型的工作原理是,根据它们接受过训练的数据,预测哪些词语最能回答人们提出的问题,这就导致它们经常胡编乱造,即AI幻觉。

  里德对此表示,AI概览通常不会 “产生幻觉”,也不会像其他大语言模型产品那样胡编胡造,因为它们与谷歌的传统搜索引擎更紧密地结合在一起,只显示最权威或相关性最高的网页支持的内容。

  她写道:“当AI概览出错时,通常是由于其他原因:比如误解了查询,误解了网络上语言的细微差别,或者没有很多有用的信息。”

  但华盛顿大学教授、计算机科学家Chirag Shah指出,这种信息检索应该是谷歌的核心业务,不能急于把它交给AI模型。“因为即使AI不胡编乱造,也会把错误信息传递给用户,谷歌这样搞的话,可能会带来相当糟糕的结果。”