谷歌AI概览错误率引担忧：海量搜索下的准确率挑战

《纽约时报》近期一份报告聚焦了谷歌搜索的AI概览功能。数据显示，其准确率约为90%。单看这一比例似乎令人满意，但结合谷歌每年超过5万亿次的搜索总量计算，潜在风险便暴露出来——这意味着该功能每小时可能生成超过5700万条错误答案，每分钟流向用户的错误信息接近百万条。初创公司Oumi的评估则揭示了一个更深层的趋势：尽管谷歌Gemini模型的准确率从去年10月的85%提升至今年2月的91%，但其答案与原始信息源的匹配率却不升反降，这进一步加剧了行业对虚假信息传播的担忧。

数据从何而来？

这些引发讨论的数据，源自Oumi公司对谷歌搜索进行的一次专项基准测试。他们采用SimpleQA评估框架，分析了4326次搜索请求的返回结果。其测试方法与结论也经过了《纽约时报》的交叉验证，增强了数据的参考价值。

90%的准确率，到底意味着什么？

对普通用户而言，90%的准确率听起来相当可靠，属于“可用”范畴。然而，当这一比例置于谷歌庞大的搜索体量之下，情况截然不同。那10%的误差所对应的绝对数量是惊人的。换算下来，AI概览功能每小时可能产生超过5700万条错误回答，平均每分钟就有近百万条错误信息被直接呈现给用户。这种错误信息的生产与分发效率，远高于传统搜索模式下用户需自行点击链接、甄别内容的过程。

Oumi的测试数据还指出了一个关键问题：在准确率提升的同时，**AI概览内容与原始信息来源不符的比例，从37%显著上升至56%**。这意味着，超过一半的错误答案下方所附带的参考链接，实际上提供了与AI总结相矛盾的信息。这对于那些依赖AI概览、不再点击详情页核实的用户，构成了明显的误导风险。

此外，谷歌的AI系统对同一搜索查询可能生成不同版本的概览答案，这进一步增加了结果的不确定性。当然，需要客观指出的是，Oumi自身依赖AI工具进行评估的方法也可能存在偏差，因此实际误差规模或许存在一定的浮动区间。

AI搜索的共性挑战

AI概览功能是谷歌于2025年推出的核心更新，旨在直接为用户提供整合后的结构化答案，以简化信息筛选流程。它目前已覆盖全球超百个国家和地区，是谷歌应对生成式AI搜索产品竞争的关键布局。

此次暴露的准确率与信源匹配问题，实际上反映了整个AI搜索赛道面临的共同挑战：大模型固有的“幻觉”缺陷，在谷歌这样的超高流量场景下被急剧放大。在此环境下，每一个百分点的准确率提升，都意味着数千万用户能获得更可靠的信息；反之，每一个百分点的误差，也可能导致虚假信息的大规模扩散。因此，如何在提升回答效率与便捷性的同时，持续压缩误差空间，并建立高效的错误内容修正机制，已成为所有布局AI搜索的企业必须解决的核心命题。

来源：互联网