大模型原理 · 幻觉与三种应对概念

RAG：用检索补充事实依据

定义

RAG 即检索增强生成，是在回答前先检索相关真实文档，把文档片段和问题一起注入上下文，让模型基于这些资料生成回答，相当于从闭卷考试变成开卷答题。

说明

RAG 适合知识时效性强、资料私有或答案需要引用的场景。系统先把文档切分并建立索引，提问时检索相关片段，再把问题与证据一起交给模型。

企业知识库就是这条链路的一种应用：制度、文档和纪要经过整理后按需检索，而不是每次把全部文件塞进上下文。这样能控制长度，并让答案回到具体来源。

RAG 不会自动判断资料是否正确。过时、冲突或权限错误的文档会污染答案；检索漏召回时，模型还可能依据自身记忆补全。

上线前要分别评测知识库质量、检索命中、引用准确性和超出证据时的拒答，并持续清理旧版与冲突资料。

边界与误区

RAG 和单纯给模型更多提示词有什么区别： 提示词提供的是行为约束和任务说明，RAG 提供的是具体的事实资料。RAG 把真实文档放入上下文，让模型有依据可查，而不是只靠训练记忆生成。
RAG 为什么不能消除幻觉： 它只补充证据，检索、资料质量和模型越界生成仍需分别评测。
知识库搭建时需要训练模型吗： 不需要。整个过程只是整理和检索资料，模型本身没有任何改变。