RAG Pipeline效果提升的5个实用技巧

RAG（检索增强生成）应用逐渐普及，核心挑战是如何持续提升回答质量。这一目标依赖于一系列精细化的优化策略。本文将系统梳理当前主流的RAG增强方法，辅以图解，帮助快速构建清晰的技术体系。

基础RAG工作流：文档切块后导入向量数据库（如Milvus或Zilliz Cloud）；根据用户query检索最相关的Top K文档块；最后将参考资料与问题一同输入大语言模型（LLM）生成回答。

牢记这个流程图，后续所有优化变体均基于此框架，可随时对照参考。

主流RAG增强方法技术全景

RAG增强方法按其在流程中的介入位置，可归纳为以下几类：

• 查询增强（Query Enhancement）： 在输入端对原始query进行语义重构，使其更易被检索系统精准匹配。对应流程图第②步。
• 索引增强（Indexing Enhancement）： 在数据入库阶段优化文档分块、建立多级索引等，为后续检索提供高质量索引基础。主要涉及第①步，有时联动②③步。
• 检索器增强（Retriever Enhancement）： 专注于检索过程，通过多种策略提升召回内容的相关性与准确性。对应第③步。
• 生成器增强（Generator Enhancement）： 在将检索结果组装成prompt供给LLM时，调整内容结构与顺序，引导模型产出更优回答。对应第④⑤步。
• RAG流程增强（RAG Pipeline Enhancement）： 引入动态流程、智能体（Agent）与工具（Tool）思想，对RAG全链路进行灵活编排与优化。

下面逐一拆解各类别中的具体方法。

查询增强（Query Enhancement）

1. 假设性问题

思路巧妙：先由LLM为每个文档块生成一个“假设性问题”——即该文档块能回答的最典型问题。如此，检索从“根据文档找答案”转变为“匹配相似问题”。这种query-to-query的对称搜索任务，比非对称的query-to-document更直接高效。代价在于需额外调用LLM生成问题，且生成的时机与质量存在不确定性。

2. HyDE (假设文档嵌入)

HyDE原理与假设性问题类似但方向相反：它对用户query生成一个“假答案”（fake answer）。该假答案可能信息不准确，但其向量嵌入（embedding）会与真正相关的文档在空间中更接近。系统最终检索与假答案最接近的真实文档。此方法同样缓解跨域不对称问题，但引入了额外开销与不确定性。

3. 子查询

面对复杂问题，如“Milvus与Zilliz Cloud在功能上有何区别？”，直接检索难以找到精确对比。可拆解为两个子问题：“Milvus有哪些功能？”和“Zilliz Cloud有哪些功能？”。并行检索后，将上下文一并提交LLM综合生成答案。拆解工作通常由LLM-based Agent自动完成。

4. 退后一步提示词

问题描述过于具体时反而不利于检索。例如“我有一个100亿条记录的数据集，存入Milvus查询可行吗？”场景过于具体，难以直接匹配。可让LLM将其抽象为更通用的退后一步问题：“Milvus能处理的数据集大小上限是多少？”。以此检索更易找到能回答原始问题的文档块。该方法在处理具体复杂提问时效果显著。

索引增强（Indexing Enhancement）

1. 自动合并块

建立索引时可采用嵌套策略：设置两种粒度——细粒度小块（child chunk）和包含它的父块（parent chunk）。检索时先搜索小块，若Top K命中结果中有超过N个属于同一父块，表明该大段落信息集中，即改为直接将整个父块传递给LLM。这样既保留检索精度，又避免上下文碎片化。

2. 分层索引

为数据建立两层索引：摘要索引与详细文档块索引。检索分两步：先用摘要索引快速筛选相关文档，再在被选中文档内进行精确查找。类似于先查图书馆目录找书架号，再上架找书。此方法特别适合数据量大、层次分明的场景。

3. 混合检索与重排序

纯向量召回可能遗漏关键内容。混合检索思路：在向量相似性召回基础上，增加一路或多路召回，如基于词频的BM25或SPLADE等稀疏嵌入模型。多路召回结果经重排序（Rerank）模块，可用RRF算法或更精密的Cross-Encoder模型过滤排序，最终选出最优内容。此方法有效弥补单一召回方式的盲区。

检索器增强（Retriever Enhancement）

1. 句子窗口检索

精妙之处在于将检索块与生成块解耦。系统检索到小句子块，但实际提供给LLM的是以该句子块为中心、包含前后文信息的“大窗口”。这为LLM提供更丰富上下文，减少信息丢失风险。窗口大小需根据业务场景灵活调整，平衡信息丰富度与噪声干扰。

2. 元数据过滤

若数据附带丰富元信息（如时间、类别、作者等），务必利用。检索候选文档后，可根据元数据（如“仅保留2023年财报”）进行二次过滤，大幅提升结果相关性，尤适用于数据量大、元信息结构清晰的场景。

生成器增强（Generator Enhancement）

1. 提示词压缩

检索返回的文档块常含有噪声，既无用且可能干扰LLM回答，加之LLM上下文窗口有限。有效思路是在送入LLM前压缩上下文：突出关键段落，剔除无关内容，甚至将长文本抽象为简短摘要。可训练专门小模型实现，原理类似重排序与过滤。

2. 调整知识块顺序

Lost in the Middle论文揭示：LLM读取长文档时，倾向记住开头和结尾，中间内容易被忽略。据此，在拼接多检索结果为提示词时，应将置信度最高的块置于开头和结尾，置信度较低或关联性较弱的块置于中间。此举可最大限度提升LLM对关键参考信息的利用率。

RAG流程增强（RAG Pipeline Enhancement）

1. 自我反馈机制

引入智能体（Agent）中的“自我反思”（self-reflection）思想。若系统初次召回的Top K块中存在置信度不高或歧义项，可在使用前进行自我验证：例如用NLI（自然语言推理）模型判断，或调用网络搜索工具交叉验证。这构成一个简单的反思闭环。

2. 查询路由

并非所有问题都需RAG。简单事实性问题（如“今天星期几？”）套用RAG不仅慢，且可能引入噪声。入口处设置路由判断，路由器（可为LLM、分类模型或简单规则）决定当前问题是否走RAG流程。若不需，直接由LLM回答；若需，进入完整RAG流程。此做法在生产中非常实用，分流请求、加快响应，并避免干扰信息。更进一步，查询路由还可用于判断是否需要调用特定工具（如网络搜索、图片检索）或执行子查询。这一灵活设计的具体落地完全取决于业务需求。

总结

基础RAG流程虽简单，但实际业务中要达到满意效果，需借助系列高级优化技巧。本文系统归类并梳理了当前常用RAG增强方法，辅以图示辅助理解。希望这份技术地图能助你快速掌握这些概念，并应用于实际项目，加速RAG应用的优化与落地。

来源：互联网