ARTICLE / ai

Agentic RAG:让 Agent 驱动检索增强生成的架构演进与工程实践

传统 RAG 系统的工作方式可以类比为一个忠实但缺乏主动性的图书管理员——你提出问题,它在指定的书架上搜索相关段落,然后把原文呈现给你。这个模式在简单事实查询场景下运转良好,但当用户问出"对比分析 A 方案和 B 方案在生产环境中的性能差异,并给出推荐"这样的复合型问题时,单次检索的静态管道就显得力不从心。传统 RAG 的根本局限在于检索决策是预定义的、不可调整的——系统不会根据中间推理结果动态调整检索策略,无法判断当前检索结果是否充分,更不能自主发起多轮检索。

2025 年以来,一种被称为 Agentic RAG 的新范式正在快速从学术研究走向生产实践。根据 arXiv 上最新的综述论文(Singh et al., 2025,v4 更新至 2026 年 4 月),Agentic RAG 通过将自主 AI Agent 嵌入 RAG 管道,实现了动态检索策略管理、迭代式上下文精化和自适应工作流编排。MLOps Community 在 2026 年 5 月发布的基准测试显示,Agentic RAG 结合知识图谱在 47 个生产部署中将幻觉率降低了约 62%。

本文将从传统 RAG 的结构性瓶颈出发,系统梳理 Agentic RAG 的架构分类、核心设计模式、关键组件实现,以及框架选型与工程落地实践,帮助技术从业者建立从"知道 Agentic RAG 是什么"到"知道如何在项目中落地"的完整认知。


1. 从传统 RAG 到 Agentic RAG:范式演进

1.1 RAG 的五代演进

理解 Agentic RAG 的最佳方式是将其放在 RAG 技术的演进脉络中:

阶段代表范式核心特征局限性
第一代Naive RAG关键词检索(BM25/TF-IDF)+ LLM 生成无语义理解,检索质量低
第二代Advanced RAG向量检索 + 混合检索 + Reranker静态管道,单次检索
第三代Modular RAG可组合模块:查询改写、路由、重排序模块间缺乏自适应协调
第四代Graph RAG知识图谱 + 社区摘要 + 图遍历检索构建成本高,实体抽取开销大
第五代Agentic RAGAgent 驱动的动态检索 + 多步推理 + 自我修正延迟更高,成本更高,编排复杂度高

关键转折:从第四代到第五代的核心变化是引入了显式的控制层——Agent 不再只是执行预定义的检索管道,而是能够自主决定"何时检索、检索什么、是否需要再次检索、当前结果是否充分"。

1.2 传统 RAG 的三个结构性瓶颈

传统 RAG 的问题不是检索算法不够好,而是架构层面的根本性限制:

上下文整合能力不足:传统管道将检索结果直接拼接到 Prompt 中,无法判断检索到的上下文是否与查询的深层意图匹配。当查询包含隐含的跨文档推理需求时,单次检索往往遗漏关键信息。

多步推理缺失:复杂问题通常需要"检索 → 推理 → 发现信息缺口 → 再次检索 → 综合判断"的迭代过程。传统 RAG 的管道是线性的,一次检索后直接生成答案,无法支持这种循环推理。

自我修正机制为零:如果检索到的内容质量不高或者包含矛盾信息,传统 RAG 没有任何机制来检测和修正——它会忠实地将低质量上下文交给 LLM,由 LLM 自行"脑补",最终产出幻觉。


2. Agentic RAG 核心架构分类

Agentic RAG 的核心思想是将 RAG 管道从静态管道改造为由 Agent 控制的动态系统。根据 Agent 的数量、控制结构和自主程度,可以划分为以下架构类型:

┌────────────────────────────────────────────────────────────────┐
│                  Agentic RAG 架构分类                           │
│                                                                │
│  ┌──────────────┐  ┌──────────────┐  ┌──────────────────────┐ │
│  │ 单 Agent     │  │ 多 Agent     │  │ 层级式 Agent         │ │
│  │ Router 架构  │  │ 协作架构      │  │ 层级架构             │ │
│  ├──────────────┤  ├──────────────┤  ├──────────────────────┤ │
│  │ • 路由决策    │  │ • 并行检索    │  │ • 总控规划 Agent     │ │
│  │ • 策略选择    │  │ • 领域分工    │  │ • 子任务 Agent       │ │
│  │ • 单源查询    │  │ • 结果聚合    │  │ • 执行层 Agent       │ │
│  └──────────────┘  └──────────────┘  └──────────────────────┘ │
│                                                                │
│  ┌──────────────┐  ┌──────────────┐  ┌──────────────────────┐ │
│  │ Corrective   │  │ Adaptive     │  │ Graph-Based          │ │
│  │ RAG 架构     │  │ RAG 架构     │  │ RAG 架构             │ │
│  ├──────────────┤  ├──────────────┤  ├──────────────────────┤ │
│  │ • 质量评估    │  │ • 查询复杂度 │  │ • 知识图谱遍历       │ │
│  │ • 自动重检索  │  │   动态判断    │  │ • Agent-G 框架       │ │
│  │ • 纠错循环    │  │ • 策略自适应  │  │ • GeAR 增强          │ │
│  └──────────────┘  └──────────────┘  └──────────────────────┘ │
└────────────────────────────────────────────────────────────────┘

2.1 单 Agent Router 架构

最简洁的 Agentic RAG 形态。一个 Agent 充当路由器角色,根据用户查询的语义特征决定检索策略——选择哪个数据源、使用哪种检索方式、是否需要查询改写。

核心工作流:

用户查询 → Agent 分析意图 → 选择检索策略 → 执行检索 → 评估结果 → 生成/重检索

适用场景:查询来源明确、检索策略可枚举的中等复杂度场景。例如企业内部知识库问答,Agent 根据问题类型路由到 HR 政策库、技术文档库或财务报告库。

优势:延迟低、实现简单、调试容易。局限:无法处理需要跨多个数据源综合推理的复杂查询。

2.2 多 Agent 协作架构

多个专职 Agent 各自负责特定领域或数据源的检索,由一个协调 Agent 统一调度。

核心工作流:

用户查询 → 协调 Agent 分解子任务 → 分发给领域 Agent → 各自检索 → 结果聚合 → 综合生成

优势:天然支持并行检索,可扩展到多个异构数据源。挑战:Agent 间的协调开销、结果冲突消解、整体延迟受最慢 Agent 制约。

2.3 层级式 Agent 架构

引入管理层级:顶层规划 Agent 负责任务分解和全局策略,中间层 Agent 负责子任务协调,底层执行 Agent 负责具体检索操作。

优势:可扩展性最强,适合大型企业级系统。挑战:层级间通信开销大,故障传播路径复杂,调试难度显著上升。

2.4 Corrective RAG(自纠正式 RAG)

核心创新:在检索结果和生成之间增加一个质量评估 Agent,自动判断检索结果的可靠性,并在质量不达标时触发重新检索。

其判定不是二元的"相关 / 不相关",而是三态输出 + 差异化动作:

评估结论触发条件Agent 动作
Correct检索结果覆盖回答所需的关键实体与事实直接进入生成阶段
Incomplete结果相关但信息碎片化、覆盖不足改写查询、缩小或扩大检索范围后追加检索
Incorrect结果与问题语义无关丢弃向量结果,回退到 Web 检索或切换数据源

关键工程细节:质量评估 Agent 通常用轻量模型(7B 级或云端 mini 档)配合结构化输出,返回 {label, reason, next_action}。因为它在每个查询上至少执行一次,延迟预算必须压在 200ms 以内,否则整条链路的收益会被评估开销吃掉。评估 Prompt 要显式要求"仅依据给定文档判断,不引入外部知识"——否则评估器本身会成为新的幻觉来源,形成"用幻觉审幻觉"的死循环。

2.5 Adaptive RAG:把"要不要检索"也交给 Agent

Corrective RAG 假设"每个问题都需要检索",Adaptive RAG 进一步质疑这个前提。它为 Router 增加一条短路分支:

  • A 类(无需检索):闲聊、模型参数知识足以回答的事实题 → 直接生成,跳过整个检索栈
  • B 类(单跳检索):定义类、文档内定位类问题 → 一次向量检索
  • C 类(多跳检索):需要跨文档综合、对比、时间线推理 → 进入迭代 Agentic 循环

分类器可以用 Few-shot LLM 判断,也可以用微调过的小模型。生产实践中这个 Router 通常只有 10-30ms 开销,却能砍掉 30%-50% 的无效检索调用——这是 Agentic RAG 项目中最容易拿到的成本收益。


3. 支撑 Agentic RAG 的四个核心组件

架构分类回答"Agent 怎么组织",落地还需要回答"每个 Agent 靠什么工作"。以下是四个必备组件:

3.1 Router:策略选择器

Router 是成本闸门。它的输入不只是查询文本,还应包括会话状态(是否追问)、用户权限(可访问哪些数据源)、历史命中率(该问题类型过去的检索质量)。设计要点:把路由决策做成可解释的结构化输出并落库审计——否则线上出现"某类问题总答不好"时,你无法判断是检索差还是路由错。

3.2 Planner:查询分解器

把"对比 A 方案与 B 方案在生产环境的性能差异并给出推荐"分解为可独立检索的子查询:

1. A 方案在生产环境的性能指标(QPS / P99 / 资源占用)
2. B 方案在生产环境的性能指标
3. 两者在生产环境的部署约束与已知故障案例
4. 内部基准测试报告中关于 A/B 的结论
→ 聚合策略:按指标维度对齐后生成对比表,再做推荐

常见失败模式:分解过细导致子查询之间失去语义关联(检索到的片段无法对齐);分解过粗则退化成单跳检索。经验法则是子查询数控制在 2-5 个,且每个子查询必须能独立回答、独立验证。

3.3 Memory:跨轮状态的载体

Agentic RAG 的状态量远大于传统 RAG——已检索过的文档 ID、每轮评估结论、已排除的检索策略都要保留。实用做法分三层:

  • 单次轨迹内:在 Agent State(如 LangGraph 的 State 对象)里显式传递结构化字段,不要只塞进对话历史
  • 会话级:记录"本会话已回答过什么、用户否定了什么",避免重复检索
  • 长期:把高频查询的检索轨迹(query → 子查询 → 命中文档 → 最终评价)沉淀下来,用于离线优化 Router 与改写策略

3.4 Agentic 检索接口

传统向量检索只提供 search(query, top_k)。Agent 需要的是可组合的工具集:vector_search、keyword_search、graph_query(知识图谱多跳)、sql_query(结构化数据)、web_search(兜底)、doc_metadata_filter(按部门/时间/权限过滤)。工具描述(description)的质量直接决定 Agent 会不会选对工具——这一层的 Prompt 打磨投入通常高于模型选型本身。


4. 实现路径与框架选型

方案适用情形代价
LangGraph 显式建图需要环、条件回退、状态持久化与人审插入图定义本身要维护,节点调试成本高
LlamaIndex Agent / RouterQueryEngine已用 LlamaIndex 做索引,想低成本加路由与迭代检索抽象层深,行为不易精确控制
Haystack Agents已有 Haystack Pipeline,需要工具循环生态相对小
AutoGen / CrewAI多 Agent 分工(检索 Agent + 评估 Agent + 生成 Agent)编排灵活但延迟不可控
自建 while 循环场景简单,只需"检索→评估→重试"一次循环需自己实现状态管理与可观测

一个反直觉但常见的结论:多数团队应当从"自建单循环"起步,在真的需要条件回退、断点续跑时才迁到 LangGraph。一上来就搭多 Agent 协作架构,往往会把 2 秒能答的问题做成 20 秒。


5. 收益、成本与评测:必须一起看

收益侧:Agentic RAG 在跨文档综合、对比分析、时效性问题上有实质提升,前文引用的基准测试显示配合知识图谱可把幻觉率压低约 62%;在检索质量本身较差的系统上,Corrective 循环等于给质量兜底。

成本侧必须算清三笔账:

  • 调用放大:一次 Agentic 查询平均触发 2-4 次检索、2-3 次 LLM 调用,Token 成本是传统 RAG 的 2.5-5 倍
  • 延迟放大:串行循环使 P95 从 2s 级涨到 8-15s,必须走流式输出并展示"正在检索 X"的过程态,否则用户感知为卡死
  • 失败面扩大:循环次数越多,偏离目标的风险越高,必须硬设置 max_iterations(实践值 3 次)与 max_cost_per_query,超限降级为"基于已有上下文回答 + 明确标注信息不足"

评测侧要从"只评答案"升级为"同时评过程":

维度指标说明
结果Faithfulness / Answer Relevancy沿用 RAGAS 一类框架
检索多跳召回率、子查询命中率每个子查询单独评,不看聚合结果
过程循环轮次分布、纠正触发率触发纠正后是否真的变好,是核心信号
成本单查询 Token / P95 延迟与答案质量一起构成帕累托前沿

最容易踩的坑是"纠正触发率高但纠正后无提升"——这说明评估 Agent 的判断标准有问题,循环只是在浪费 Token。看轨迹分布(多少查询用了 1 轮 / 2 轮 / 3 轮)比看整体准确率更能暴露这个问题。


6. 落地建议:什么时候该上,怎么上

该上的信号:失败案例集中在"需要跨文档综合"“单跳检索召回不足"“问题类型差异极大"三类;且现有 RAG 已经把检索质量做到瓶颈(Recall@K 已高但答案仍不完整)。

不该上的信号:失败根因是文档解析差、分块不合理、Embedding 领域不适配——这些用 Agentic 循环只会把同一次错误检索重复三遍。

推荐的演进顺序:

  1. 先补齐传统 RAG 的地基(解析、分块、混合检索、重排),并留下可复现的评测集
  2. 加 Router / Adaptive 分支,先把成本降下来,验证分类器准确率
  3. 加 Corrective 评估 Agent,只对置信度低的查询触发,控制放大倍数
  4. 最后才引入查询分解与多 Agent 协作,且必须有完整轨迹可观测

Agentic RAG 的本质不是"让 Agent 更聪明”,而是把检索从一次性静态动作变成可自我修正的过程。它带来的收益与复杂度同步增长,只有当业务问题真的复杂到需要多轮检索时,这笔复杂度投资才划算。

(数据来源说明:本文为公开资料与技术方法整理,涉及的性能、比例与厂商能力描述以各官方文档与公开报告为准,具体数值会随版本变化;未在自有环境逐项复测的数据均以’约/通常/实践区间’表述。)

本文面向授权安全研究与防御建设,未经授权对任何系统实施文中技术属违法行为。