直接问大模型，它只能回答“它记忆里有的东西”。企业里大量的制度文档、产品手册、历史工单、合规条文，训练时根本没被记住，于是模型就会编造——这就是幻觉的来源。RAG（检索增强生成）解决的是这件事：先在你的知识库里检索相关片段，再把片段喂给模型作答，回答有据可查、还能附上引用。
它到底多有效
一个典型场景是内部客服。某企业有 3 万多条历史工单和 200 份制度文档，纯靠大模型问答，事实一致率约六成；接入 RAG 后把“从哪里来”的片段一并给出，事实一致率显著提升，问题也能指向具体文档章节。同样的数据，不重建模型，只是换了一条检索+生成的链路。
为什么“检索”经常出问题
很多企业搭了 RAG 效果却差，问题多半出在检索而不是生成：文档切分太粗导致片段过载、向量召回不重视关键词兜底、没有按产品/部门做过滤。检索准了，答案自然就稳。
什么时候不必上 RAG
如果你的业务场景就是开放对话、创意写作，且愿意接受模型自带的通识，可以直接用公网模型；但只要是“必须对接企业事实、要给引用、要控制口径”，就基本绕不开 RAG。
一句话：RAG 是企业知识底座的核心，价值在于“有据可查、可控口径、可追溯”。想评估自己的知识库适不适合上 RAG，先用免费诊断梳理数据规模与口径要求。