LangChain入门教程：大模型为何需要这个框架

前言：从大模型的局限说起

随着 OpenAI、DeepSeek、通义千问等大语言模型 API 的普及，越来越多的开发者开始尝试构建 AI 应用。这些大语言模型通过 RESTful API 的方式向开发者提供服务，开发者只需发送 HTTP 请求即可获得模型的推理结果。所谓 RESTful API，是一种基于 HTTP 协议的 Web 服务架构风格，通过标准的 HTTP 方法（GET、POST 等）进行资源操作。大模型 API 通常采用 POST 请求，将用户的 prompt 以 JSON 格式发送到服务端，服务端返回模型的推理结果。这种模式的优势在于与编程语言无关、易于集成，但也意味着每次调用都是独立的、无状态的请求-响应过程，模型本身不会维护任何上下文信息。

这种 API 化的服务模式大幅降低了 AI 应用的开发门槛——开发者无需自行训练模型、购买 GPU 集群，只需按调用量付费即可使用强大的语言理解与生成能力。然而，API 本质上只提供了"输入文本-输出文本"的单次推理能力，要构建真正可用的产品级应用，还需要大量的工程化工作。

很快人们就会发现：单纯调用大模型 API 存在明显的天花板。正是为了突破这些限制，LangChain 这样的应用开发框架应运而生。

本文将梳理 LangChain 的由来、核心定位以及它与 LangGraph 的关系演变，帮助初学者建立正确的知识框架。

大模型的三大局限

在理解 LangChain 为何存在之前，需要先认清直接调用大模型 API 的三个核心局限。

局限一：知识截止时间

任何大模型的知识都停留在它训练数据的截止日期之前。对于训练时间点之后发生的新内容、新事件，模型是无法回答的——因为它根本就没见过这些数据。这意味着模型的知识天然存在时效性缺陷。

从技术原理来看，大语言模型的知识来源于预训练阶段所使用的语料库。以 GPT-4 为例，其训练数据截止到特定日期，之后发生的事件、发布的论文、更新的法规等信息都不在其"认知范围"内。这是由 Transformer 架构的训练机制决定的。Transformer 是 2017 年由 Google 在论文《Attention Is All You Need》中提出的深度学习架构，是当前所有主流大语言模型（GPT、Claude、LLaMA、Qwen 等）的基础。其核心机制是自注意力（Self-Attention），能够捕捉输入序列中任意位置之间的依赖关系，从而在处理长距离文本依赖时表现出色。模型通过在海量文本（通常达数万亿 Token）上进行预训练来学习语言规律，训练完成后模型的参数即被固定（frozen），除非进行额外的微调（fine-tuning）或持续预训练，否则无法获取新知识。即便进行微调，成本也极其高昂，且存在灾难性遗忘（Catastrophic Forgetting）等风险——这是指模型在学习新知识时可能覆盖已有知识的现象，使得增量更新模型知识变得极具挑战性。

局限二：无法结合业务数据

大模型的回答都是基于其过往训练数据，与你的企业业务数据没有任何关系。如果你希望模型结合公司内部数据库、业务场景来作答，原生模型根本不具备获取外部数据的能力。它无法访问你的企业内部数据，也无法连接外部数据源。

这一局限在企业级应用场景中尤为突出。企业通常拥有大量私有数据——包括内部知识库文档、CRM 系统中的客户信息、ERP 系统中的业务数据、历史工单记录等。这些数据不仅未被大模型训练过，而且出于数据安全和隐私合规（如 GDPR、《数据安全法》等）的考量，也不可能直接提交给公有大模型。因此，如何让大模型在不直接接触原始数据的前提下"利用"企业私有知识，成为 AI 落地的核心挑战。这正是 RAG（检索增强生成）等技术方案的价值所在——通过将相关知识片段检索出来并注入到 prompt 上下文中，让模型基于这些信息进行回答，既解决了知识获取问题，又保障了数据安全。

局限三：缺乏会话状态管理

单独的大模型不具备"会话保持"能力——所谓会话保持，就是维持聊天历史与上下文状态。原生模型本质上是一问一答，没有状态、没有记忆。我们平时使用的"记忆功能"，其实都是应用层后续附加实现的，而非模型本身自带。

从底层机制来看，大语言模型的推理过程本质上是无状态的（stateless）。每次 API 调用都是独立的，模型不会"记住"上一次对话的内容。我们在 ChatGPT 等产品中体验到的"记忆"功能，实际上是应用层将历史对话拼接到当前请求的 prompt 中，让模型"看到"之前的对话内容从而模拟出连续对话的效果。这种做法会受到模型上下文窗口（context window）长度的限制——上下文窗口是指模型单次推理能够处理的最大 Token 数量。Token 是模型处理文本的最小单位，一个中文字通常对应 1-2 个 Token，一个英文单词通常对应 1-3 个 Token。不同模型的上下文窗口差异很大：GPT-3.5 为 4K/16K Token，GPT-4 Turbo 为 128K Token，Claude 3 最高支持 200K Token。窗口越大，能容纳的对话历史越多，但推理成本也随之增加（API 计费通常按 Token 数量），且研究表明存在"中间遗忘"（Lost in the Middle）问题，即模型对长文本中间部分的注意力会下降。当对话历史超过窗口长度时，早期内容会被截断丢失。因此，如何高效地管理、压缩和检索对话历史，成为 AI 应用开发中的关键工程问题。常见的策略包括滑动窗口截断、摘要压缩、基于向量检索的记忆等。

LangChain 是什么

简单定位：LangChain 是一个用于开发大模型驱动应用程序的开源框架。一提到 LangChain，就应当立刻联想到"AI 应用开发框架"这个标签。

作为开源项目，LangChain 主要提供 Python 和 TypeScript/JavaScript 两种语言的 SDK。它在 GitHub 上拥有极高的关注度（Star 数超过 90K），是 AI 应用开发领域最活跃的开源生态之一。LangChain 的核心价值不在于提供模型能力本身，而在于提供了一套标准化的抽象层和工具集，帮助开发者将模型能力与外部世界连接起来，快速构建端到端的 AI 应用。

LangChain 名字的由来

LangChain 于 2022 年 10 月发布，其名称由两部分组成：

• Lang（Language）：代表语言模型
• Chain：代表链式连接

合起来，LangChain 的核心理念就是"以链式方式连接语言模型"，让大语言模型能够通过链式编排构建出完整的 AI 应用。

这里的"Chain"概念借鉴了函数式编程中的管道（pipeline）思想和责任链设计模式。管道是函数式编程中的核心模式之一，其核心思想是将数据处理过程分解为一系列独立的、可组合的转换步骤——在 Unix/Linux 系统中，管道操作符"|"就是这一思想的经典体现。LangChain 借鉴了这一理念，通过 LCEL（LangChain Expression Language，LangChain 表达式语言）提供了声明式的管道语法，开发者可以用"|"操作符将 Prompt 模板、模型调用、输出解析器等组件串联起来，形成清晰的数据流。这种方式不仅提升了代码可读性，还使得流式输出（streaming）和异步执行等特性可以自动应用于整个链路。

在链式编排中，一个复杂任务被拆解为多个步骤，每个步骤的输出作为下一个步骤的输入，形成数据流动的链条。例如，一个典型的 RAG（检索增强生成）链可能包含：用户输入→查询改写→向量检索→上下文拼接→模型推理→结果格式化等多个环节。其中向量检索依赖于 Embedding 技术，即将文本转化为高维向量表示，相似语义的文本在向量空间中距离较近，通过余弦相似度或欧氏距离等度量方法可以快速找到与查询最相关的文档片段。常用的向量数据库包括 Pinecone、Milvus、Chroma、FAISS 等。这种链式设计使得每个环节都可以独立测试、替换和优化，极大提升了应用的可维护性和灵活性。

LangChain 解决了哪些问题

LangChain 正是针对上述三大局限而设计的。它在原生大模型能力之上，扩展了大量"插拔式"功能：

• 工具调用（Tool Calling）：连接外部数据源，突破知识截止的限制。工具调用的本质是让大模型根据用户意图自动选择并调用预定义的工具函数（如搜索引擎、数据库查询、API 调用等），获取实时数据后再生成回答。这一能力依赖于模型的 Function Calling 特性——OpenAI 在 2023 年 6 月首次在 GPT 模型中引入了这一能力，随后各大模型厂商纷纷跟进。
• 状态管理（State Management）：存储并管理聊天历史，实现会话保持。LangChain 提供了多种记忆（Memory）实现，包括对话缓冲记忆（ConversationBufferMemory）、摘要记忆（ConversationSummaryMemory）、向量检索记忆等，开发者可以根据场景需要选择合适的记忆策略。
• 安全管理：对应用层进行安全控制，包括输入验证、prompt 注入防护、输出审查等。

所谓"插拔式"，意味着这些功能可以按需分别应用。这样一来，AI 应用就不仅仅是模型推理，还能连接外部数据、维护对话状态，能力被大幅扩展。

LangChain 与 LangGraph 的关系演变

这是初学者最容易混淆的一点，也是理解 LangChain 生态时需要特别关注的架构变化。

从相互独立到底层统一

在早期版本中，LangChain 就是 LangChain，LangGraph 就是 LangGraph，两者互不相关。但在 LangChain 1.0 版本之后，框架进行了一次重要的架构调整：

• LangChain 中的一些能力（例如 Agent）实际上已经由 LangGraph 承载；
• 现在 LangChain 与 LangGraph 的底层都基于同一套 graph（图）流架构。

LangGraph 引入了有向图（directed graph）的概念来编排 AI 应用的执行流程。相比于 LangChain 早期的线性链式结构，图结构能够表达更复杂的控制流——包括条件分支、循环、并行执行和状态回溯等。LangGraph 底层基于状态机（state machine）的理念，状态机是计算机科学中的经典模型，由一组状态、状态转换条件和动作组成。在 LangGraph 中，每个节点代表一个处理步骤并维护一份共享状态（通常是 TypedDict 或 Pydantic 模型），节点间的边定义了状态转换逻辑，整体形成一个可控、可观测的执行图。

这种图结构对于构建 Agent（智能体）尤为重要，因为 Agent 需要根据环境反馈动态决定下一步行动，其执行路径天然是非线性的。图结构的关键优势在于支持条件路由（根据上一步结果决定下一步走向）和循环（Agent 可以反复调用工具直到任务完成），还天然支持检查点（checkpoint）机制，使得长时间运行的 Agent 任务可以中断和恢复。这也是为什么 LangChain 1.0 后将 Agent 能力迁移到 LangGraph 的原因——图结构比链结构更适合表达 Agent 的"观察-思考-行动"决策循环。

这次调整的目的很明确——让整个开源工具链更好用、更统一。对于初学者而言，现阶段只需记住：LangChain 生态中包含 LangChain 与 LangGraph 两个部分，且在 1.0 之后底层已经打通。关于 Agent 与 LangGraph 的详细关系，通常会在进阶章节展开。

此外，LangChain 生态还包括其他重要组件：LangSmith 是一个用于调试、测试和监控 LLM 应用的平台，提供了链路追踪（tracing）、评估（evaluation）和数据集管理等功能，帮助开发者在生产环境中持续优化应用表现；LangServe 则用于将 LangChain 应用快速部署为 REST API 服务。这些工具共同构成了从开发到部署到监控的完整工具链。

LangChain 官方文档学习建议

LangChain 官网提供了英文和中文两个版本，以下是实用的选择建议：

• 初学者：推荐先看中文官网。其内容多为 AI 自动翻译，对新手非常友好，能够快速建立整体认知。
• 有基础的开发者：建议直接阅读英文官网，可搭配翻译插件使用。

需要特别注意的是，中文版虽然基于 LangChain v1.0，但由于是 AI 自动翻译，存在内容缺失和翻译不准确的问题。英文官网才是最全、最权威的资料来源。建议中文文档用于入门理解，英文文档用于查漏补全。

除官方文档外，还有几个值得关注的学习资源：LangChain 的 GitHub 仓库中包含大量示例代码（examples）和 cookbook，是实践学习的极佳素材；LangChain 官方 YouTube 频道定期发布教程和功能更新说明；此外，LangChain 的版本迭代速度极快（几乎每周都有更新），建议开发者关注其 Changelog 和 Migration Guide，以便及时跟进 API 变更。

总结

LangChain 的价值在于弥补了原生大模型的三大短板：知识时效性、业务数据接入和会话状态管理。它以链式编排为核心思想，通过工具调用、状态管理等插拔式功能，把"只会推理的模型"升级为"能连接真实世界数据的 AI 应用"。

随着 1.0 版本后与 LangGraph 底层架构的统一，LangChain 生态正朝着更一体化、更易用的方向演进。对于希望进入 AI 应用开发领域的开发者来说，理解这个框架的定位与设计初衷，是学习后续 RAG、Agent、MCP 等进阶内容的基础。

其中，RAG（Retrieval-Augmented Generation，检索增强生成）是解决知识截止问题的主流方案，最早由 Meta AI 在 2020 年的论文中提出。其核心思路是通过将外部知识库的相关内容检索出来并注入到 prompt 中，让模型基于最新、最相关的信息进行回答。完整的 RAG 流程包含离线阶段（文档切片→Embedding 向量化→写入向量数据库）和在线阶段（用户查询向量化→相似性检索→上下文拼接→模型生成），这种"检索+生成"的双阶段架构已经成为企业 AI 应用的事实标准。

Agent（智能体）则是一种能够自主规划、使用工具、迭代执行的 AI 应用模式，它不是简单地一次推理得出答案，而是通过观察-思考-行动（Observe-Think-Act）的循环来完成复杂任务。经典的 Agent 框架包括 ReAct（Reasoning + Acting）模式，即模型先进行推理分析当前状态，然后决定调用哪个工具，再根据工具返回结果继续推理，如此循环直到任务完成。这种模式使得 AI 能够处理需要多步骤、多工具协作的复杂场景，如数据分析、代码调试、信息搜索等。

MCP（Model Context Protocol）是 Anthropic 于 2024 年提出的模型上下文协议，旨在标准化 AI 模型与外部工具、数据源之间的交互方式，类似于 AI 应用领域的"USB 接口标准"。在 MCP 之前，每个 AI 应用都需要为每个工具单独编写集成代码，导致大量重复工作。MCP 通过定义统一的协议规范，使得工具提供方只需实现一次 MCP 服务端，即可被所有支持 MCP 的 AI 应用调用。这三者——RAG、Agent、MCP——共同构成了现代 AI 应用开发的核心技术栈，也是 LangChain 生态重点支持的应用模式。

核心要点

• 大模型三大局限：知识截止时间（训练数据时效性）、无法结合业务数据（缺乏外部数据访问能力）、缺乏会话状态管理（无状态推理机制）
• LangChain 定位：AI 应用开发框架，通过链式编排和插拔式功能将模型能力与外部世界连接
• 核心能力：工具调用（Tool Calling）、状态管理（Memory）、安全管理
• 架构演变：LangChain 1.0 后与 LangGraph 底层统一为图（graph）流架构，Agent 能力迁移至 LangGraph
• 技术栈关系：RAG 解决知识时效性、Agent 实现自主任务执行、MCP 标准化工具集成
• 学习路径：中文文档入门→英文文档深入→GitHub 示例实践