ARTICLE / ai
Agentic RAG:让 Agent 驱动检索增强生成的架构演进与工程实践
传统 RAG 系统的工作方式可以类比为一个忠实但缺乏主动性的图书管理员——你提出问题,它在指定的书架上搜索相关段落,然后把原文呈现给你。这个模式在简单事实查询场景下运转良好,但当用户问出"对比分析 A 方案和 B 方案在生产环境中的性能差异,并给出推荐"这样的复合型问题时,单次检索的静态管道就显得力不从心。传统 RAG 的根本局限在于检索决策是预定义的、不可调整的——系统不会根据中间推理结果动态调整检索策略,无法判断当前检索结果是否充分,更不能自主发起多轮检索。
2025 年以来,一种被称为 Agentic RAG 的新范式正在快速从学术研究走向生产实践。根据 arXiv 上最新的综述论文(Singh et al., 2025,v4 更新至 2026 年 4 月),Agentic RAG 通过将自主 AI Agent 嵌入 RAG 管道,实现了动态检索策略管理、迭代式上下文精化和自适应工作流编排。MLOps Community 在 2026 年 5 月发布的基准测试显示,Agentic RAG 结合知识图谱在 47 个生产部署中将幻觉率降低了约 62%。
本文将从传统 RAG 的结构性瓶颈出发,系统梳理 Agentic RAG 的架构分类、核心设计模式、关键组件实现,以及框架选型与工程落地实践,帮助技术从业者建立从"知道 Agentic RAG 是什么"到"知道如何在项目中落地"的完整认知。
1. 从传统 RAG 到 Agentic RAG:范式演进
1.1 RAG 的五代演进
理解 Agentic RAG 的最佳方式是将其放在 RAG 技术的演进脉络中:
| 阶段 | 代表范式 | 核心特征 | 局限性 |
|---|---|---|---|
| 第一代 | Naive RAG | 关键词检索(BM25/TF-IDF)+ LLM 生成 | 无语义理解,检索质量低 |
| 第二代 | Advanced RAG | 向量检索 + 混合检索 + Reranker | 静态管道,单次检索 |
| 第三代 | Modular RAG | 可组合模块:查询改写、路由、重排序 | 模块间缺乏自适应协调 |
| 第四代 | Graph RAG | 知识图谱 + 社区摘要 + 图遍历检索 | 构建成本高,实体抽取开销大 |
| 第五代 | Agentic RAG | Agent 驱动的动态检索 + 多步推理 + 自我修正 | 延迟更高,成本更高,编排复杂度高 |
关键转折:从第四代到第五代的核心变化是引入了显式的控制层——Agent 不再只是执行预定义的检索管道,而是能够自主决定"何时检索、检索什么、是否需要再次检索、当前结果是否充分"。
1.2 传统 RAG 的三个结构性瓶颈
传统 RAG 的问题不是检索算法不够好,而是架构层面的根本性限制:
上下文整合能力不足:传统管道将检索结果直接拼接到 Prompt 中,无法判断检索到的上下文是否与查询的深层意图匹配。当查询包含隐含的跨文档推理需求时,单次检索往往遗漏关键信息。
多步推理缺失:复杂问题通常需要"检索 → 推理 → 发现信息缺口 → 再次检索 → 综合判断"的迭代过程。传统 RAG 的管道是线性的,一次检索后直接生成答案,无法支持这种循环推理。
自我修正机制为零:如果检索到的内容质量不高或者包含矛盾信息,传统 RAG 没有任何机制来检测和修正——它会忠实地将低质量上下文交给 LLM,由 LLM 自行"脑补",最终产出幻觉。
2. Agentic RAG 核心架构分类
Agentic RAG 的核心思想是将 RAG 管道从静态管道改造为由 Agent 控制的动态系统。根据 Agent 的数量、控制结构和自主程度,可以划分为以下架构类型:
2.1 单 Agent Router 架构
最简洁的 Agentic RAG 形态。一个 Agent 充当路由器角色,根据用户查询的语义特征决定检索策略——选择哪个数据源、使用哪种检索方式、是否需要查询改写。
核心工作流:
适用场景:查询来源明确、检索策略可枚举的中等复杂度场景。例如企业内部知识库问答,Agent 根据问题类型路由到 HR 政策库、技术文档库或财务报告库。
优势:延迟低、实现简单、调试容易。局限:无法处理需要跨多个数据源综合推理的复杂查询。
2.2 多 Agent 协作架构
多个专职 Agent 各自负责特定领域或数据源的检索,由一个协调 Agent 统一调度。
核心工作流:
优势:天然支持并行检索,可扩展到多个异构数据源。挑战:Agent 间的协调开销、结果冲突消解、整体延迟受最慢 Agent 制约。
2.3 层级式 Agent 架构
引入管理层级:顶层规划 Agent 负责任务分解和全局策略,中间层 Agent 负责子任务协调,底层执行 Agent 负责具体检索操作。
优势:可扩展性最强,适合大型企业级系统。挑战:层级间通信开销大,故障传播路径复杂,调试难度显著上升。
2.4 Corrective RAG(自纠正式 RAG)
核心创新:在检索结果和生成之间增加一个质量评估 Agent,自动判断检索结果的可靠性,并在质量不达标时触发重新检索。
其判定不是二元的"相关 / 不相关",而是三态输出 + 差异化动作:
| 评估结论 | 触发条件 | Agent 动作 |
|---|---|---|
| Correct | 检索结果覆盖回答所需的关键实体与事实 | 直接进入生成阶段 |
| Incomplete | 结果相关但信息碎片化、覆盖不足 | 改写查询、缩小或扩大检索范围后追加检索 |
| Incorrect | 结果与问题语义无关 | 丢弃向量结果,回退到 Web 检索或切换数据源 |
关键工程细节:质量评估 Agent 通常用轻量模型(7B 级或云端 mini 档)配合结构化输出,返回 {label, reason, next_action}。因为它在每个查询上至少执行一次,延迟预算必须压在 200ms 以内,否则整条链路的收益会被评估开销吃掉。评估 Prompt 要显式要求"仅依据给定文档判断,不引入外部知识"——否则评估器本身会成为新的幻觉来源,形成"用幻觉审幻觉"的死循环。
2.5 Adaptive RAG:把"要不要检索"也交给 Agent
Corrective RAG 假设"每个问题都需要检索",Adaptive RAG 进一步质疑这个前提。它为 Router 增加一条短路分支:
- A 类(无需检索):闲聊、模型参数知识足以回答的事实题 → 直接生成,跳过整个检索栈
- B 类(单跳检索):定义类、文档内定位类问题 → 一次向量检索
- C 类(多跳检索):需要跨文档综合、对比、时间线推理 → 进入迭代 Agentic 循环
分类器可以用 Few-shot LLM 判断,也可以用微调过的小模型。生产实践中这个 Router 通常只有 10-30ms 开销,却能砍掉 30%-50% 的无效检索调用——这是 Agentic RAG 项目中最容易拿到的成本收益。
3. 支撑 Agentic RAG 的四个核心组件
架构分类回答"Agent 怎么组织",落地还需要回答"每个 Agent 靠什么工作"。以下是四个必备组件:
3.1 Router:策略选择器
Router 是成本闸门。它的输入不只是查询文本,还应包括会话状态(是否追问)、用户权限(可访问哪些数据源)、历史命中率(该问题类型过去的检索质量)。设计要点:把路由决策做成可解释的结构化输出并落库审计——否则线上出现"某类问题总答不好"时,你无法判断是检索差还是路由错。
3.2 Planner:查询分解器
把"对比 A 方案与 B 方案在生产环境的性能差异并给出推荐"分解为可独立检索的子查询:
常见失败模式:分解过细导致子查询之间失去语义关联(检索到的片段无法对齐);分解过粗则退化成单跳检索。经验法则是子查询数控制在 2-5 个,且每个子查询必须能独立回答、独立验证。
3.3 Memory:跨轮状态的载体
Agentic RAG 的状态量远大于传统 RAG——已检索过的文档 ID、每轮评估结论、已排除的检索策略都要保留。实用做法分三层:
- 单次轨迹内:在 Agent State(如 LangGraph 的 State 对象)里显式传递结构化字段,不要只塞进对话历史
- 会话级:记录"本会话已回答过什么、用户否定了什么",避免重复检索
- 长期:把高频查询的检索轨迹(query → 子查询 → 命中文档 → 最终评价)沉淀下来,用于离线优化 Router 与改写策略
3.4 Agentic 检索接口
传统向量检索只提供 search(query, top_k)。Agent 需要的是可组合的工具集:vector_search、keyword_search、graph_query(知识图谱多跳)、sql_query(结构化数据)、web_search(兜底)、doc_metadata_filter(按部门/时间/权限过滤)。工具描述(description)的质量直接决定 Agent 会不会选对工具——这一层的 Prompt 打磨投入通常高于模型选型本身。
4. 实现路径与框架选型
| 方案 | 适用情形 | 代价 |
|---|---|---|
| LangGraph 显式建图 | 需要环、条件回退、状态持久化与人审插入 | 图定义本身要维护,节点调试成本高 |
| LlamaIndex Agent / RouterQueryEngine | 已用 LlamaIndex 做索引,想低成本加路由与迭代检索 | 抽象层深,行为不易精确控制 |
| Haystack Agents | 已有 Haystack Pipeline,需要工具循环 | 生态相对小 |
| AutoGen / CrewAI | 多 Agent 分工(检索 Agent + 评估 Agent + 生成 Agent) | 编排灵活但延迟不可控 |
| 自建 while 循环 | 场景简单,只需"检索→评估→重试"一次循环 | 需自己实现状态管理与可观测 |
一个反直觉但常见的结论:多数团队应当从"自建单循环"起步,在真的需要条件回退、断点续跑时才迁到 LangGraph。一上来就搭多 Agent 协作架构,往往会把 2 秒能答的问题做成 20 秒。
5. 收益、成本与评测:必须一起看
收益侧:Agentic RAG 在跨文档综合、对比分析、时效性问题上有实质提升,前文引用的基准测试显示配合知识图谱可把幻觉率压低约 62%;在检索质量本身较差的系统上,Corrective 循环等于给质量兜底。
成本侧必须算清三笔账:
- 调用放大:一次 Agentic 查询平均触发 2-4 次检索、2-3 次 LLM 调用,Token 成本是传统 RAG 的 2.5-5 倍
- 延迟放大:串行循环使 P95 从 2s 级涨到 8-15s,必须走流式输出并展示"正在检索 X"的过程态,否则用户感知为卡死
- 失败面扩大:循环次数越多,偏离目标的风险越高,必须硬设置
max_iterations(实践值 3 次)与max_cost_per_query,超限降级为"基于已有上下文回答 + 明确标注信息不足"
评测侧要从"只评答案"升级为"同时评过程":
| 维度 | 指标 | 说明 |
|---|---|---|
| 结果 | Faithfulness / Answer Relevancy | 沿用 RAGAS 一类框架 |
| 检索 | 多跳召回率、子查询命中率 | 每个子查询单独评,不看聚合结果 |
| 过程 | 循环轮次分布、纠正触发率 | 触发纠正后是否真的变好,是核心信号 |
| 成本 | 单查询 Token / P95 延迟 | 与答案质量一起构成帕累托前沿 |
最容易踩的坑是"纠正触发率高但纠正后无提升"——这说明评估 Agent 的判断标准有问题,循环只是在浪费 Token。看轨迹分布(多少查询用了 1 轮 / 2 轮 / 3 轮)比看整体准确率更能暴露这个问题。
6. 落地建议:什么时候该上,怎么上
该上的信号:失败案例集中在"需要跨文档综合"“单跳检索召回不足"“问题类型差异极大"三类;且现有 RAG 已经把检索质量做到瓶颈(Recall@K 已高但答案仍不完整)。
不该上的信号:失败根因是文档解析差、分块不合理、Embedding 领域不适配——这些用 Agentic 循环只会把同一次错误检索重复三遍。
推荐的演进顺序:
- 先补齐传统 RAG 的地基(解析、分块、混合检索、重排),并留下可复现的评测集
- 加 Router / Adaptive 分支,先把成本降下来,验证分类器准确率
- 加 Corrective 评估 Agent,只对置信度低的查询触发,控制放大倍数
- 最后才引入查询分解与多 Agent 协作,且必须有完整轨迹可观测
Agentic RAG 的本质不是"让 Agent 更聪明”,而是把检索从一次性静态动作变成可自我修正的过程。它带来的收益与复杂度同步增长,只有当业务问题真的复杂到需要多轮检索时,这笔复杂度投资才划算。
(数据来源说明:本文为公开资料与技术方法整理,涉及的性能、比例与厂商能力描述以各官方文档与公开报告为准,具体数值会随版本变化;未在自有环境逐项复测的数据均以’约/通常/实践区间’表述。)
本文面向授权安全研究与防御建设,未经授权对任何系统实施文中技术属违法行为。