DeepMind终结大模型幻觉？标注事实比人类靠谱、还便宜20倍，全开源

---

大模型的幻觉终于要终结了？

今日，社交媒体平台Reddit上的一则帖子引起网友热议。帖子讨论的是谷歌DeepMind昨日提交的一篇论文《Long-form factuality in large language models（大语言模型的长篇事实性）》，文中提出的方法和结果让人得出大语言模型幻觉不再是问题了。

☞☞☞AI 智能聊天, 问答助手, AI 智能搜索, 免费无限量使用 DeepSeek R1 模型☜☜☜

我们知道，大语言模型在响应开放式主题的fact-seeking（事实寻求）提问时，通常会生成包含事实错误的内容。DeepMind 针对这一现象进行了一些探索性研究。

为了对一个模型在开放域的长篇事实性进行基准测试，研究者使用 GPT-4 生成 LongFact，它是一个包含38个主题、数千个问题的提示集。然后他们提出使用搜索增强事实评估器（SAFE）来将 LLM 智能体用作长篇事实性的自动评估器。SAFE 的目的是提高事实可信度评估器的准确性。

关于SAFE，使用LLM可以更准确地解释每个实例的准确性。这里多步推理过程包括将搜索查询发送到Google搜索并确定搜索结果是否支持某个实例。

论文地址：https://arxiv.org/pdf/2403.18802.pdf

GitHub 地址：https://github.com/google-deepmind/long-form-factuality

此外，研究者提出将 F1 分数（F1@K）扩展为长篇实践性的聚合指标。他们平衡了响应中支持的实际的百分比（精度）和所提供事实相对于代表用户首选响应长度的超参数的百分比（召回率）。

实证结果表明，LLM 智能体可以实现超越人类的评级性能。在一组约 16k 个单独的事实上，SAFE 在 72% 的情况下与人类注释者一致，并且在 100 个分歧案例的随机子集上，SAFE 的赢率为 76%。同时，SAFE 的成本比人类注释者便宜 20 倍以上。

研究者还使用 LongFact，对四个大模型系列（Gemini、GPT、Claude 和 PaLM-2）的 13 种流行的语言模型进行了基准测试，结果发现较大的语言模型通常可以实现更好的长篇事实性。

论文作者之一、谷歌研究科学家 Quoc V. Le 表示，这篇对长篇事实性进行评估和基准测试的新工作提出了一个新数据集、 一种新评估方法以及一种兼顾精度和召回率的聚合指标。同时所有数据和代码将开源以供未来工作使用。

方法概览

LONGFACT：使用 LLM 生成长篇事实性的多主题基准

首先来看使用 GPT-4 生成的 LongFact 提示集，包含了 2280 个事实寻求提示，这些提示要求跨 38 个手动选择主题的长篇响应。研究者表示，LongFact 是第一个用于评估各个领域长篇事实性的提示集。

LongFact 包含两个任务：LongFact-Concepts 和 LongFact-Objects，根据问题是否询问概念或对象来区分。研究者为每个主题生成 30 个独特的提示，每个任务各有 1140 个提示。

SAFE：LLM 智能体作为事实性自动评分者

研究者提出了搜索增强事实评估器（SAFE），它的运行原理如下所示：

a）将长篇的响应拆分为单独的独立事实；

b）确定每个单独的事实是否与回答上下文中的提示相关；

c) 对于每个相关事实，在多步过程中迭代地发出 Google 搜索查询，并推理搜索结果是否支持该事实。

他们认为 SAFE 的关键创新在于使用语言模型作为智能体，来生成多步 Google 搜索查询，并仔细推理搜索结果是否支持事实。下图 3 为推理链示例。

为了将长篇响应拆分为单独的独立事实，研究者首先提示语言模型将长篇响应中的每个句子拆分为单独的事实，然后通过指示模型将模糊引用（如代词）替换为它们在响应上下文中引用的正确实体，将每个单独的事实修改为独立的。

为了对每个独立的事实进行评分，他们使用语言模型来推理该事实是否与在响应上下文中回答的提示相关，接着使用多步方法将每个剩余的相关事实评级为「支持」或「不支持」。具体如下图 1 所示。

在每个步骤中，模型都会根据要评分的事实和之前获得的搜索结果来生成搜索查询。经过一定数量的步骤后，模型执行推理以确定搜索结果是否支持该事实，如上图 3 所示。在对所有事实进行评级后，SAFE 针对给定提示 - 响应对的输出指标为 「支持」事实的数量、「不相关」事实的数量以及「不支持」事实的数量。

实验结果

LLM 智能体成为比人类更好的事实注释者

为了定量评估使用 SAFE 获得注释的质量，研究者使用了众包人类注释。这些数据包含 496 个提示 - 响应对，其中响应被手动拆分为单独的事实（总共 16011 个单独的事实），并且每个单独的事实都被手动标记为支持、不相关或不支持。

他们直接比较每个事实的 SAFE 注释和人类注释，结果发现 SAFE 在 72.0% 的单独事实上与人类一致，如下图 4 所示。这表明 SAFE 在大多数单独事实上都达到了人类水平的表现。然后检查随机采访的 100 个单独事实的子集，其中 SAFE 的注释与人类评分者的注释不一致。

研究者手动重新注释每个事实（允许访问 Google 搜索，而不仅仅是维基百科，以获得更全面的注释），并使用这些标签作为基本事实。他们发现，在这些分歧案例中，SAFE 注释的正确率为 76%，而人工注释的正确率仅为 19%，这代表 SAFE 的胜率是 4 比 1。具体如下图 5 所示。

这里，两种注释方案的价格非常值得关注。使用人工注释对单个模型响应进行评级的成本为 4 美元，而使用 GPT-3.5-Turbo 和 Serper API 的 SAFE 仅为 0.19 美元。

Gemini、GPT、Claude 和 PaLM-2 系列基准测试

最后，研究者在 LongFact 上对下表 1 中四个模型系列（Gemini、GPT、Claude 和 PaLM-2）的 13 个大语言模型进行了广泛的基准测试。

具体来讲，他们利用了 LongFact-Objects 中 250 个提示组成的相同随机子集来评估每个模型，然后使用 SAFE 获取每个模型响应的原始评估指标，并利用 F1@K 指标进行聚合。

结果发现，一般而言，较大的语言模型可以实现更好的长篇事实性。如下图 6 和下表 2 所示，GPT-4-Turbo 优于 GPT-4，GPT-4 优于 GPT-3.5-Turbo，Gemini-Ultra 优于 Gemini-Pro，PaLM-2-L-IT-RLHF 优于 PaLM- 2-L-IT。

更多技术细节和实验结果请参阅原论文。

# 搜索结果  # 下表  # 率为  # 不支持  # 仅为  # 提出了  # 进行了  # 可以实现  # 如下图  # ai  # 所示  # palm  # gpt  # https  # github  # 对象  # claude  # gemini 

相关栏目： 【 Google疑问12 】 【 Facebook疑问10 】 【 网络优化91478 】 【 技术知识72672 】 【 云计算0 】 【 GEO优化84317 】 【 优选文章0 】 【 营销推广36048 】 【 网络运营41350 】 【 案例网站102563 】 【 AI智能45237 】

相关推荐： AI辅助儿童圣经课程创作：轻松制作教育视频  如何用AI帮你分析用户评论？3步挖掘用户真实需求  深入解析音视频转录：全面指南与实践技巧  AI电影制作：颠覆传统，引领未来*新纪元  批改网AI检测工具怎样优化检测精度_批改网AI检测工具精度调节与模型选择【实操】  Claude怎样写指令型提示词_Claude指令提示词写法【方法】  AI图像生成平台深度对比：Midjourney vs. Stable Diffusion  AI无镜头相机Paragraphica：颠覆传统摄影的新方式  AI聊天机器人引发伦理思考：泰国老人在Facebook上遭遇情感欺骗悲剧  Claude怎么用_Claude使用方法详细指南【教程】  AI视频工具：加速内容创作，提升效率的终极指南  探索都市传说：追寻鳄鱼飞机怪物“Bombardino Crocodilo”  唐库AI拆书工具怎样设置拆书深度_唐库AI拆书工具深度调节与内容详略控制【技巧】  EdrawMax全面评测：使用AI轻松绘制流程图和思维导图  kimi生成ppt怎么编辑文字_kimi编辑文字后怎么保存  AI驱动的Web应用测试：突破QA挑战，提升用户体验  手相解析：生命线的形状与意义详解，预示健康、财富和命运  2025年最佳AI时间管理软件：Motion、Reclaim AI与Clockwise终极评测  百度ai助手工具栏怎么关 百度ai助手状态栏隐藏  GoHighLevel AI Agent：终极指南，释放你的CRM潜力  Beats to Rap On AI Stem Splitter：终极音乐创作工具  留学文书PS怎么写？教你用AI写出招生官眼前一亮的个人陈述  tofai官网网页版入口 tofai最新网页版登录链接  终极游戏工作站：帝王蝎椅沉浸式体验评测  OpenAI Sora 2：AI视频生成新纪元  千问能否生成多语言年终总结_千问多语言翻译与本地化调整【攻略】  AI Excel公式生成工具有哪些_一键生成函数公式的AI工具推荐  Semrush AI标题生成器：免费提升SEO和内容创作效率  探索占星术：揭秘 कुंडली 中的 शुक्र，财富与运势的钥匙  AI周报生成工具有哪些_一键生成工作总结的AI工具推荐  Sora AI：颠覆视频创作？OpenAI最新文生视频模型深度解析  轻松制作圣经视频：无需露脸也能赚钱的教程  蚂蚁阿福官方网站入口_网页版在线解读体检报告  批改网ai检测工具能否检测引用格式_批改网ai检测工具引用格式检查与修正提示【攻略】  ASUS Armoury Crate深度评测：最新功能与个性化定制  2025 YouTube自动化终极指南：利用AI实现高效内容创作和多平台发布  iPhone 17 Pro Max深度测评：AI驱动的未来手机已来？  Universe：用 iPhone 在 5 分钟内打造网站的终极指南  n8n：零代码AI自动化平台的终极指南和免费VPS设置  稿定设计AI抠图怎样处理复杂边缘_稿定设计AI复杂边缘细化技巧【技巧】  Talvix AI：AI驱动的招聘平台，提升招聘效率和质量  利用AI模板高效创建产品需求文档 (PRD)  GravityWrite：AI驱动的内容创作，提升排名和效率  5分钟搞定求职信：利用AI工具大幅提升求职效率的实操技巧  解锁 Gemini Gems 高级用法：打造专属 AI 专家助手  Quizlet AI：学生提分神器，告别传统学习方式，效率倍增  佐糖AI抠图能否识别商品白底_佐糖AI电商白底图自动处理流程【教程】  New You KIN Skin Analyzer：焕发肌肤新生的终极指南  AI绘图工具测评：告别复杂流程，高效创作流程图  通义万相IP形象设计怎么用_通义万相IP形象设计使用方法详细指南【教程】 

 2024-03-30