S3·检索与Agent

RAG

检索增强3 分钟

RAG(检索增强生成)是让 LLM 在回答前先"查资料"的技术——先检索相关文档,再基于文档生成回答。它是解决幻觉问题、让 AI 能回答私有知识的最主流方案。

① 一句话定义

RAG(Retrieval-Augmented Generation,检索增强生成)是一种将信息检索文本生成结合的 AI 应用架构:在模型生成回答前,先从外部知识库检索相关文档,将检索结果连同用户问题一起送入模型,使模型能够基于检索到的"参考资料"回答,而非仅依赖训练时记下的知识。

② 为什么重要

RAG 是 2024-2026 年 AI 应用落地的最主流架构

  • 降低幻觉:把答案"锚定"在真实文档上,大幅减少模型瞎编的概率。
  • 实时知识更新:不需要重新训练模型,更新知识库就能让 AI 学会新知识。
  • 企业数据安全:私域文档不出企业边界,不需要上传给模型训练。
  • 可溯源:答案可以附带引用来源,用户可以自行验证。

③ 核心机制

RAG 的工作流程分为离线阶段在线阶段

离线 · 索引构建:① 文档解析(PDF、网页、数据库)→ ② 文本切分(Chunking)→ ③ 对每个 Chunk 生成 Embedding → ④ 存入向量数据库。

在线 · 检索增强:① 用户提问 → ② 将问题转化为 Embedding → ③ 在向量数据库中检索最相关的 Top-K 个 Chunk → ④ 将检索结果作为上下文拼入 Prompt → ⑤ 模型基于资料生成回答。

关键设计决策:Chunk 大小(太大检索不精准,太小丢失上下文)、检索结果数量 K(太少信息不足,太多噪音干扰)、重排序(Reranking)是否引入,都直接影响 RAG 质量。

④ 典型应用场景

企业知识库问答:上传内部文档,员工用自然语言查询公司政策、技术文档。

客服机器人:基于产品手册实时回答用户问题,不再需要人工整理 FAQ。

法律/医疗辅助:在专业文档库中检索相关法条或病例,辅助专家判断。

学术研究:对论文库做 RAG,快速找到相关研究并生成文献综述。

⑤ 常见误区

误区:RAG = 向量搜索 + LLM
✅ 实际上:真正的生产级 RAG 远不止这两步。还包括文档解析、智能切分、混合检索、重排序、结果融合、引用标注等一系列工程环节。

误区:RAG 可以完全替代微调
✅ 实际上:RAG 和微调是互补的。RAG 擅长"查资料",微调擅长"学风格"。最好的实践往往是 RAG + 微调组合使用。

误区:RAG 是万能方案
✅ 实际上:如果知识库不完整、切分不合理、检索不精准,RAG 可能比不用还差——把不相关的资料塞给模型反而误导它。

RAG 让模型从"凭记忆答题"变成"开卷考试"——有了参考资料,回答自然更靠谱。