RAG技术演进全解析：从朴素检索到多模态的六代进化

引言：为什么RAG是大模型时代的必修课

RAG（Retrieval-Augmented Generation，检索增强生成）已经成为大模型应用落地最核心的技术之一。无论你是想进入大模型行业，还是希望在现有工作中引入AI能力，RAG都是一个绑不开的关键词。

RAG之所以如此重要，根本原因在于大语言模型（LLM）存在两个固有缺陷：知识截止日期（training cutoff）和幻觉问题（hallucination）。大模型的参数化知识在训练完成后就被冻结，无法获取最新信息；同时模型在面对超出训练分布的问题时，会生成看似流畅但事实错误的内容。RAG通过在推理阶段动态注入外部知识，以较低成本解决了这两个问题，避免了频繁微调模型的高昂开销。这也是为什么从OpenAI的ChatGPT插件到各大企业的AI助手，几乎所有生产级大模型应用都采用了某种形式的RAG架构。

然而，RAG并非一成不变的技术。过去两年间，它经历了多代演进，每一代都在解决上一代遗留的痛点。本文将系统梳理RAG技术从朴素检索到Agentic RAG、Graph RAG、多模态RAG的完整演化路径，并结合六个典型实战场景，帮你建立对RAG技术栈的全局认知。

第一代：朴素RAG——简单直接但问题不少

最早期的RAG方案思路非常直接：将文档切块（Chunking）→ 向量化（Embedding）→ 检索最相似的片段 → 拼接到Prompt中交给大模型生成回答。

其中，向量化是整个RAG系统的基石技术。Embedding模型（如OpenAI的text-embedding-ada-002、BGE、E5等）将文本映射为高维向量空间中的点，使得语义相近的文本在向量空间中距离更近。这些向量通常存储在专门的向量数据库中（如Pinecone、Milvus、Weaviate、Chroma等），支持高效的近似最近邻（ANN）搜索。ANN算法（如HNSW、IVF）通过构建索引结构，在牺牲少量精度的前提下将搜索复杂度从O(n)降低到O(log n)级别，使得百万甚至亿级文档的实时检索成为可能。

这套流程看似完整，但在实际应用中很快暴露出三大核心问题：

检索不准：简单的向量相似度匹配容易召回语义相近但实际无关的内容
长文割裂：固定长度的切块策略会把完整的语义段落拦腰截断，导致上下文丢失
幻觉问题：当检索到的片段质量不高时，模型倾向于"编造"看似合理但实际错误的答案

朴素RAG的典型问题

这些问题在企业级应用中尤为致命——一个知识库问答系统如果频繁给出错误答案，用户信任度会迅速崩塌。

第二代：高级RAG——混合检索与重排序双管齐下

为了解决朴素RAG的检索质量问题，业界引入了一系列优化手段，形成了所谓的"高级RAG"（Advanced RAG）方案。

混合检索（Hybrid Search）

不再单纯依赖向量检索，而是将稀疏检索（如BM25关键词匹配）和稠密检索（向量语义匹配）结合使用。关键词检索擅长精确匹配专有名词和术语，向量检索擅长理解语义意图，两者互补能显著提升召回率。

BM25（Best Matching 25）是信息检索领域经典的排序算法，属于TF-IDF的改进版本。它通过词频（TF）、逆文档频率（IDF）和文档长度归一化三个因子来计算查询与文档的相关性分数。BM25的优势在于对精确关键词匹配极为敏感——当用户查询包含特定产品型号、法律条款编号或专业术语时，BM25往往比语义向量检索更准确。在混合检索方案中，通常使用Reciprocal Rank Fusion（RRF）或加权线性组合等方法将BM25和向量检索的结果进行融合。

重排序（Reranking）

在初步检索出候选片段后，使用专门的Cross-Encoder模型对"查询-文档"对进行精细打分，重新排序。这一步相当于给检索结果加了一道"质检关"，能有效过滤掉表面相似但实际不相关的噪声。

Cross-Encoder与常规的Bi-Encoder（双塔模型）有本质区别。Bi-Encoder分别对查询和文档独立编码，通过向量相似度快速匹配，适合大规模初筛；而Cross-Encoder将查询和文档拼接为一个输入序列，通过Transformer的全注意力机制进行深度交互建模，能捕捉更细粒度的语义关系。代表性模型包括Cohere Rerank、BGE-Reranker、ms-marco-MiniLM等。由于Cross-Encoder的计算复杂度为O(n)（n为候选文档数），通常只对初检返回的Top-K（如Top-50）结果进行重排序，而非全库扫描。

查询改写与扩展

用户的原始查询往往表述模糊或不完整，通过LLM对查询进行改写、分解或扩展，可以大幅提升检索的精准度。

这一代技术对应的典型项目就是企业知识库问答系统——通过混合检索+重排序的组合拳，让内部文档检索的准确率从60%级别提升到85%以上。

第三代：Agentic RAG——让AI自主决策检索策略

高级RAG虽然提升了检索质量，但仍然是"无脑检索"——不管用户问什么，都会触发检索流程。而实际场景中，很多问题根本不需要检索外部知识（比如简单的闲聊或常识问答），强行检索反而会引入噪声。

Agentic RAG的核心突破在于引入了**Agent（智能体）**机制，让系统具备自主判断能力：

要不要检索：判断当前问题是否需要外部知识支撑
检索哪里：从多个知识源中选择最合适的数据库
检索结果够不够好：评估召回内容的质量，必要时进行二次检索或换一种检索策略

Agent（智能体）是一种让LLM具备自主规划和工具调用能力的架构范式。其核心思想源自ReAct（Reasoning + Acting）框架：模型先进行推理（Thought），决定下一步行动（Action），执行后观察结果（Observation），再决定是否需要继续行动。在Agentic RAG中，检索被视为Agent可调用的工具之一，Agent可以根据问题复杂度选择不同的检索策略、调用不同的知识库、甚至在检索结果不满意时自主调整查询并重试。典型框架包括LangChain的Agent模块、LlamaIndex的Router Query Engine、以及微软的AutoGen等。

多模态RAG处理图文混排文档

这种"先思考再行动"的模式，让RAG系统从被动的检索工具进化为主动的问题解决者。在复杂的多轮对话和多步推理场景中，Agentic RAG的优势尤为明显。

第四代：Graph RAG——用知识图谱理解实体关系

传统RAG有一个根本局限：它只能检索到文本片段，却无法理解实体之间的结构化关系。

举个例子，如果你问"张三的直属上级是谁，他负责哪些项目？"，传统RAG需要在多个文档片段中分别找到"张三的上级"和"上级负责的项目"，然后期望大模型能正确地把这些信息串联起来。但当关系链条变长时，这种"碰运气"式的拼接就很容易出错。

Graph RAG的解决方案是在向量检索之外，额外构建一层知识图谱（Knowledge Graph）：

从文档中自动抽取实体（人名、机构、项目等）和关系（隶属、负责、合作等）
将实体和关系存储为图结构
检索时不仅匹配文本语义，还能沿着图谱的边进行关系推理

知识图谱以三元组（实体-关系-实体）为基本单元存储结构化知识，典型存储引擎包括Neo4j、Amazon Neptune等图数据库。在Graph RAG中，知识图谱的构建通常依赖命名实体识别（NER）和关系抽取（RE）技术，近年来LLM本身也被广泛用于从非结构化文本中抽取三元组。微软研究院2024年发布的GraphRAG论文提出了一种基于社区检测的方法：先用LLM从文档中抽取实体和关系构建图谱，再通过Leiden算法对图谱进行社区划分，最后为每个社区生成摘要，从而支持全局性问题的回答。这种方法特别适合回答需要跨文档综合信息的总结性问题。

知识图谱构建与文档解析

知识图谱构建是Graph RAG的核心环节，对应的实战项目包括从企业文档中自动抽取组织架构、产品关系等结构化信息，并基于图谱进行多跳推理问答。

第五代：多模态RAG——突破纯文本的边界

现实世界的文档远不止纯文本。财报中有复杂的表格和图表，技术手册中有流程图和示意图，合同中有印章和签名。传统RAG在面对这些图文混排的PDF时几乎束手无策。

多模态RAG通过引入以下技术来解决这个问题：

OCR + 版面分析：识别文档中的文字、表格、图片区域，并理解它们的空间布局关系
多模态Embedding：将文本和图像统一映射到同一个向量空间，实现跨模态检索
视觉语言模型（VLM）：直接"看懂"图表内容，而非仅依赖OCR提取的文字

多模态Embedding的核心思想是将不同模态的数据（文本、图像、音频等）映射到统一的向量空间。代表性工作包括OpenAI的CLIP模型，它通过对比学习将图像和文本对齐到同一空间。在RAG场景中，ColPali等模型可以直接对文档页面图像进行编码，无需先进行OCR文字提取，从而保留了版面布局信息。视觉语言模型（VLM）如GPT-4V、Qwen-VL、InternVL等则更进一步，能够直接理解图表中的数据趋势、表格中的数值关系，甚至流程图中的逻辑结构。在实际应用中，通常采用"先检索后理解"的两阶段方案：用多模态Embedding检索相关页面，再用VLM对检索到的页面进行深度理解和问答。

结合DeepSeek等模型的OCR能力，多模态RAG可以处理财报图文检索、技术文档中的架构图理解等复杂场景。这在金融、法律、制造等行业有着巨大的应用价值。

六个实战项目的技术栈对应

将上述技术演进与实际项目对应起来：

技术代际	核心技术	对应项目场景
朴素RAG	切块+向量检索	基础文档问答
高级RAG	混合检索+重排序	企业知识库问答
Agentic RAG	Agent自主决策	智能客服/多源问答
Graph RAG	知识图谱+图推理	知识图谱构建与推理
多模态RAG	OCR+VLM	财报图文检索
综合应用	DeepSeek OCR	复杂文档解析

总结与学习建议

RAG技术的演进本质上是一个不断补漏洞的过程：朴素RAG解决了"让大模型用上外部知识"的基本问题，之后每一代都在针对上一代的具体短板进行定向优化。

对于想要入行或提升竞争力的开发者，建议按照以下路径循序渐进：

先打好基础：理解朴素RAG的完整流程，这是所有后续技术的地基
重点掌握高级RAG：混合检索和重排序是目前企业应用中最普遍的方案
关注Agentic RAG：这是当前最热门的方向，也是面试高频考点
按需深入Graph RAG和多模态RAG：这两个方向更偏垂直场景，根据目标岗位选择性学习

理解技术演进的脉络，比死记硬背单个技术点要重要得多。当你能清晰地说出"每一代RAG解决了什么问题、引入了什么新问题"时，你在面试中就已经领先了大多数候选人。