RAG
检索增强生成(Retrieval-Augmented Generation,RAG)是一种结合信息检索与大语言模型生成能力的人工智能技术框架。其核心机制是在生成回答前,先从外部知识库中检索相关文档或片段,将其作为上下文输入模型,从而使模型能够利用最新或领域专属知识进行回答,有效缓解大语言模型的幻觉问题和知识截止局限性。
核心事实
时间轴 (近 90 天)
上下文管理是Harness中最基础的能力,包括历史对话、文档内容、工具返回结果的组织与重新注入,以及摘要、裁剪、检索增强(RAG)等处理,决定多轮任务能否连贯完成。
根据团队实际落地经验,RAG加知识图谱这个方案目前准确率相对较高。
据B站UP主整合版本,课程分为三大模块:基础篇(Python、环境搭建、提示词工程、Transformer、预训练、SFT、RLHF等),进阶篇(RAG、Agent、LangChain、微调与私有化部署),实战篇(企业级项目如医疗问答、电商客服、数字人、教育助教)。
RAG的优势包括可溯源、易更新、成本低;劣势是效果高度依赖检索质量。
在RAG中,切片粒度和Embedding模型的选择直接决定召回质量。
2023年之后,开源基础模型、托管推理API与现成的RAG框架使得一个小团队可以在数周内搭出可用的AI助手产品。
RAG 管道的典型流程包括文档采集、清洗切分、向量化嵌入、存储索引和检索生成几个阶段。
网页转 Markdown 属于 RAG 管道中的采集与清洗环节,其输出质量会沿管道向下传导,直接影响最终回答的准确性。
Reddit 上一位开发者的 RAG 管道每周处理约 500 个页面,由单人维护。
对于小规模 RAG 管道(每周几百页),托管网页抓取 API 的总体成本低于自建方案。
还有 40 条时间轴事件
全部知识事实 (20)
RAG的核心思想是在大模型生成回答前,先从外部知识库检索相关信息作为上下文注入提示词
90%已验证GraphRAG的核心是把知识图谱融入传统RAG流程,以三元组(两个实体及其关系)形式组织信息
90%已验证Prompt注入(Prompt Injection)是针对大语言模型应用的安全威胁,攻击者通过在输入中嵌入恶意指令试图覆盖系统原有行为约束
90%已验证LlamaIndex(原GPT Index)专注于数据索引和检索增强生成(RAG)场景
90%已验证RAG(检索增强生成)架构由 Meta AI 研究团队在 2020 年提出
90%已验证Cursor的AI代理能力通过RAG(检索增强生成)技术将相关代码上下文注入大语言模型实现精准任务执行
90%已验证RAG(检索增强生成)的典型流程包括文档分块(Chunking)、向量嵌入(Embedding)、相似度检索(Similarity Search)和上下文注入(Context Injection)四个步骤
90%已验证混合检索(Hybrid Search)将向量检索与BM25关键词检索的结果通过RRF(倒数排名融合)等算法合并,兼顾语义理解与精确匹配
90%已验证Perplexity AI底层采用RAG(检索增强生成)技术架构,实时抓取网络内容结合LLM输出带引用来源的结构化答案
90%已验证RAG(检索增强生成)技术架构将文档切片、向量化、存入向量数据库,查询时先检索相关片段再交给模型生成回答
90%已验证参数化知识指语言模型在预训练阶段压缩进权重参数中形成的内隐记忆,非参数化知识指推理时通过检索获取的知识
85%已验证检索增强生成(RAG)通过引入实时网络搜索并附上引用来源来锚定事实,但其效果受搜索结果质量、文档解析准确率、模型理解能力等环节影响
85%已验证RAG的回答质量很大程度上取决于检索环节,而非模型能力本身
85%已验证RAG的核心逻辑是将文档切片后向量化存储,查询时通过语义相似度检索相关片段注入上下文
85%已验证AI评估对象分为大语言模型评估、知识库(RAG)评估、智能体(Agent)评估三层,且呈知识度和复杂度递增的递进关系
80%已验证在科研场景中,RAG通常与向量数据库如Pinecone、Weaviate结合使用
80%已验证基于向量数据库的RAG(检索增强生成)方案更擅长处理文档型知识,但对高度结构化的工程事实检索精准度和实时性往往不够理想
80%已验证RAG的工作原理分为检索阶段(将问题转为向量从知识库召回相关内容)和生成阶段(将召回上下文与问题输入模型作答)
80%已验证RAG工作流程分离线和在线两阶段:离线将文档切分转化为向量存入向量数据库,在线将问题转化为向量通过ANN算法检索最相似文本片段拼接进上下文
80%已验证RAG机制从根本上缓解了LLM的幻觉问题,使回答基于真实知识库内容并给出可追溯来源
80%