大模型幻觉与缓解#

缓解方案：

1. RAG：用检索的事实作为生成依据
2. 提示工程：要求引用来源/“不确定就说不知道”
3. 温度调低：减少随机性（新一代闭源推理模型多数不开放 temperature，要靠检索和提示约束，见 解码策略与采样参数）
4. 自我验证：让模型反思检查自己的输出
5. 人工审核：关键场景加人工环节

大模型幻觉是指模型生成的内容看起来流畅合理，但实际与事实不符。本质原因是LLM的生成机制是基于概率预测下一个token，它在”编”而不是在”查”，所以会自信地输出错误信息。缓解幻觉我总结为五个层次：第一是RAG检索增强，让模型基于检索到的真实文档生成回答，相当于把闭卷考试变成开卷考试，这是最有效的手段；第二是Prompt工程约束，在提示词中明确要求模型引用来源，不确定的时候说不知道，从指令层面限制编造行为；第三是降低温度参数，减少生成的随机性，让输出更保守更确定；第四是自我验证，让模型对自己的输出做反思检查，或者用另一个模型做交叉验证；第五是在关键业务场景加人工审核把关。实际落地时这几种方法通常组合使用，比如 RAG 系统同时用检索增强、Prompt 约束和低温度，再用 Faithfulness 这类指标持续评测。结合项目时可以讲：在哪一层做了取舍（生成前拦截还是生成后审查）、用什么指标和测试集验证了效果。

追问方向：

• 幻觉率怎么测量？ → 常用 Faithfulness（回答中的陈述能否被检索上下文支撑），用 LLM-as-Judge 或 RAGAS 类工具打分；固定测试集、多轮取均值以减小评审方差，并抽样人工核查校准自动评分。注意”人工抽样的幻觉率”和”自动评测的 Faithfulness”是不同口径，不能混着比较
• RAG 系统也会产生幻觉吗？什么情况下会？ → 会。检索质量差时 LLM 基于错误/不相关的文档”编”得更像。检索分数低于阈值时应该拒答而非强行生成
• 幻觉检测有哪些工程手段？线上怎么实时检测？ → 四层：引用验证（生成内容能否回溯到原文）+ 置信度阈值（低分拒答）+ LLM 自检（让模型反思”是否基于给定上下文”）+ 关键事实规则校验（数字/日期/人名）
• 降低温度就能解决幻觉吗？为什么？ → 不能。温度只控制随机性，不解决知识缺失。低温时模型可能更”自信地”输出错误内容。根本解决靠 RAG 提供事实依据 + 置信度分流

易错点：

• ❌ 认为用了 RAG 就没有幻觉 → 检索质量差时 RAG 照样幻觉，甚至会基于错误的检索结果”编”得更像
• ❌ 只靠降低温度解决幻觉 → 温度只控制随机性，不解决知识缺失问题，低温时模型可能更”自信地”输出错误内容
• ❌ 幻觉检测只靠人工 → 需要自动化检测管线：引用验证 + 置信度阈值 + LLM 自检 + 关键事实规则校验

工程取舍（通用）：

• 生成后自我反思（按事实一致性/完整性/引用准确性等维度打分，不达标再重写）能提升 Faithfulness，代价是每次多一轮 LLM 调用。常见的省钱做法是按检索置信度分流：rerank 高分且候选充足的查询跳过反思，只对低分查询用便宜的小模型做轻量反思
• 置信度分级展示：按检索/评审分数分高、中、低几档，低置信度回答附”仅供参考，请核对原文”提示
• 另一种取舍是不做生成后审查，改用生成前的检索质量闸 + 结构化引用解析（零 LLM 成本），换来更低延迟，代价是少了对生成内容本身的检查