LangChain入门：Model与Agent核心概念详解

写在前面：为什么要重新理解LangChain

随着大模型应用从"能聊天"走向"能干活"，LangChain作为目前最主流的大模型应用开发框架，正在经历一次重要的版本迭代。

LangChain由Harrison Chase于2022年10月发布，最初是一个帮助开发者将大语言模型与外部数据源、工具链连接起来的Python库。随着GPT-4等强大模型的普及，LangChain迅速成为AI应用开发领域最受欢迎的开源框架之一，GitHub星标在短短一年内突破7万。新版本（0.2及以上）对核心架构进行了重大重构，将框架拆分为langchain-core、langchain-community等子包，并引入了**LCEL（LangChain Expression Language）**作为统一的链式调用语法，显著提升了代码的可读性与可组合性。

这次架构重构的背后，是整个LLM应用开发范式的成熟化过程。早期版本的单体设计在社区规模扩大后暴露出依赖臃肿、版本冲突等工程问题——langchain-community子包收录了数百个第三方集成，若全部打包安装会引入大量不必要的依赖。新的子包体系将核心抽象（langchain-core）、社区集成（langchain-community）、官方合作伙伴集成（如langchain-openai、langchain-anthropic）严格分层，开发者可以按需引入，显著改善了依赖管理体验。这种"小核心、大生态"的设计哲学，与Python生态中requests、httpx等成熟库的演进路径高度一致。

LCEL的设计哲学借鉴了Unix管道的思想——通过|操作符将各个Runnable组件串联成数据流水线，实现声明式的任务编排。其底层统一了同步调用、异步调用、流式输出和批量处理四种执行模式，开发者无需为不同场景编写不同的调用代码，极大降低了工程复杂度。新版LangChain不仅重构了核心抽象，还引入了中间件（Middleware）机制，让开发者在构建智能体（Agent）时拥有更强的控制力。

本文聚焦两个最关键的概念——Model（模型）与Agent（智能体），帮助零基础读者建立起对LangChain的系统认知。这两个模块几乎构成了所有大模型应用的骨架，理解它们的关系，是走向实战开发的第一步。

Model：LangChain的地基

Model到底是什么

在LangChain的世界里，Model是最底层、也是最核心的抽象。无论你调用的是OpenAI的GPT、DeepSeek^广告，还是本地部署的开源模型，LangChain都会用统一的接口将它们封装起来。这样做的好处显而易见：换模型不换代码。

LangChain的统一接口设计遵循了软件工程中的"依赖倒置原则"（Dependency Inversion Principle）。框架定义了BaseChatModel、BaseLanguageModel等抽象基类，所有具体模型（如ChatOpenAI、ChatAnthropic、ChatOllama）都继承并实现这些基类的标准方法。这意味着开发者调用的始终是同一套接口规范，底层适配层负责将标准调用翻译成各厂商API的具体格式。目前LangChain已支持超过50家模型提供商，包括OpenAI、Anthropic、Google、Mistral、DeepSeek以及通过Ollama运行的本地开源模型，真正实现了"一次编写，多处运行"的工程目标。

值得一提的是，这种抽象设计在实际工程中带来的价值远超"切换模型"本身。在大模型应用的开发周期中，团队往往需要在不同阶段使用不同模型：原型验证阶段使用低成本的小模型快速迭代，生产环境切换到性能更强的旗舰模型，成本敏感的批处理任务则路由到价格更低的API端点。LangChain的抽象层使得这种"模型路由"策略可以在配置层面完成，而无需触动任何业务逻辑代码，这在多模型混合部署的企业场景中具有显著的工程价值。

开发者只需面向LangChain提供的标准接口编程，底层具体调用哪家厂商的模型、走哪个API，都可以通过配置灵活切换。这种"抽象隔离"的设计思路，正是框架价值的体现——把工程复杂度封装起来，让开发者专注于业务逻辑本身。

Model层常见的坑

很多初学者容易把Model简单理解为"调API的封装"，但实际使用中还有不少细节值得关注：

• 消息格式：LangChain使用结构化的消息类型（如SystemMessage、HumanMessage、AIMessage）来组织对话，而非简单的字符串拼接。这种设计并非单纯的形式主义，而是有其深刻的工程原因。现代大语言模型（尤其是经过RLHF对齐的Chat模型）在训练时就区分了不同角色的输入：System消息用于设定模型的行为准则和角色定位，Human消息代表用户输入，AI消息则是模型的历史回复。这种角色区分直接影响模型的输出质量——错误地将系统提示混入用户消息，往往会导致模型行为偏离预期。

  值得深入理解的是，RLHF（Reinforcement Learning from Human Feedback，基于人类反馈的强化学习）是目前主流Chat模型对齐训练的核心技术路线，由OpenAI在InstructGPT论文（2022）中系统阐述。其训练流程分为三个阶段：首先用监督学习在高质量对话数据上微调基础模型（SFT），然后训练一个奖励模型（Reward Model）来预测人类对不同回复的偏好，最后用PPO（近端策略优化）算法让语言模型最大化奖励模型的评分。整个训练数据集中，每一条样本都被严格标注了system/user/assistant三种角色，模型因此学会了对角色边界的高度敏感性。这也解释了为什么将本应放在System消息中的指令混入Human消息，往往会导致模型"遗忘"指令或产生不一致的行为——这与模型在训练时形成的角色期望直接冲突。LangChain的消息类型设计与OpenAI Chat Completions API的messages数组格式高度对齐，同时通过抽象层屏蔽了不同厂商在消息格式上的细微差异，正确使用消息类型是获得稳定输出的前提条件。

  此外，不同厂商对消息角色的支持存在细微差异：部分模型不支持连续多条相同角色的消息，部分模型对System消息的位置有严格要求（必须置于对话首位），还有部分开源模型使用完全不同的对话模板格式（如Llama系列的[INST]标记）。LangChain的消息抽象层在一定程度上屏蔽了这些差异，但在使用非主流模型时仍需关注底层模板的兼容性问题。

• 流式输出：在实际产品中，逐字返回（streaming）几乎是标配，Model层对此提供了原生支持。流式输出的底层依赖于HTTP的Server-Sent Events（SSE）或WebSocket协议，LangChain通过统一的stream()方法封装了不同厂商的流式API差异，开发者可以用一致的方式处理流式响应，而无需关心底层协议细节。

• 参数控制：temperature、max_tokens等参数决定了输出的稳定性与长度，需要根据具体场景调优。temperature参数控制输出的随机性（0表示确定性输出，1以上则趋向创意发散），在需要精确、可重复输出的工具调用场景中，通常建议设置为0或接近0的低值；而在创意写作等场景中，适当提高temperature则有助于生成更多样化的内容。

理解好Model层，才能在此基础上构建更复杂的应用能力。

Agent：让模型学会"动手"

从对话到行动

如果说Model解决的是"模型能说什么"，那么Agent解决的就是"模型能做什么"。Agent的核心思想是：让大模型不仅能生成文本，还能自主决定调用哪些工具（Tools）来完成任务。

现代LangChain Agent的核心推理机制大多基于ReAct（Reasoning + Acting）框架，这一框架由Yao等人于2022年在论文《ReAct: Synergizing Reasoning and Acting in Language Models》中正式提出，并在Google Research的支持下完成了系统性验证。ReAct的核心思想是让模型在行动前先进行显式的"思考"（Thought），然后决定采取的"行动"（Action），执行后观察结果（Observation），再进入下一轮思考。实验表明，相比单纯的链式推理（Chain-of-Thought）或单纯的行动执行，ReAct框架在HotpotQA、FEVER等复杂推理基准上的成功率提升了10%~30%，其优势在于将语言推理与外部信息获取紧密耦合，有效减少了模型的"幻觉"问题。这种循环形成了Agent的基本执行单元。与纯粹的链式调用不同，ReAct框架赋予了Agent动态决策能力——它不是按照预设流程机械执行，而是根据每一步的观察结果灵活调整后续行动策略。

新版LangChain通过LangGraph进一步将这种循环抽象为有向图结构，使得复杂的多步骤、多分支Agent工作流变得可视化和可控。LangGraph是LangChain团队于2024年推出的独立子库，专门用于构建有状态、多步骤的Agent工作流。它将Agent的执行过程建模为有向图（DAG，Directed Acyclic Graph），图中每个节点代表一个处理步骤（如调用LLM、执行工具、人工审批），边代表节点间的数据流转关系，条件边则支持动态分支。相比传统的线性链式调用，LangGraph最大的突破在于原生支持"循环"结构——Agent可以在图中反复迭代，直到满足终止条件，这正是ReAct框架所需要的执行模型。LangGraph还内置了持久化状态管理（Persistence），允许Agent在多轮对话间保持上下文，甚至支持"时间旅行"（Time Travel）功能，让开发者可以回溯到任意历史状态重新执行，极大便利了调试工作，也为多Agent协作系统（Multi-Agent System）的构建奠定了基础。

在多Agent系统的架构设计中，LangGraph的图模型展现出独特优势。一个典型的多Agent系统可能包含：负责任务分解的"编排者"Agent（Orchestrator）、专注于特定领域的"执行者"Agent（如代码执行Agent、数据分析Agent、网络搜索Agent），以及负责质量把控的"评审者"Agent（Critic）。这些Agent通过LangGraph的边进行消息传递和状态共享，形成类似人类团队协作的分工体系。相比单一Agent承担所有任务，多Agent架构在处理复杂、长程任务时具有更强的鲁棒性和可扩展性，是当前Agent系统研究的重要前沿方向。

举个例子：当用户问"今天北京的天气如何"，一个纯Model只能凭训练数据猜测或拒绝回答，而一个配备了天气查询工具的Agent，则会自主判断需要调用天气API，拿到实时数据后再组织语言回复。这种"感知—决策—行动"的循环，正是智能体的魅力所在。

工具调用的底层机制

Agent调用工具的底层机制依赖于大模型的Function Calling（函数调用）能力。这一能力由OpenAI于2023年6月随GPT-3.5/GPT-4 API更新正式推出，随后Anthropic（Claude 3的Tool Use）、Google（Gemini的Function Calling）等主流厂商相继跟进，逐渐成为Chat模型的标配能力。Function Calling的核心突破在于：它让模型输出结构化JSON而非自由文本来表达工具调用意图，从根本上解决了早期基于提示词解析工具调用时的格式不稳定问题——在Function Calling出现之前，开发者需要用复杂的正则表达式或提示词工程来"哄"模型按固定格式输出，稳定性极差。

这一能力的实现依赖于模型在训练阶段对结构化输出的专项强化。开发者以JSON Schema格式描述工具的参数结构——JSON Schema是一种用于描述JSON数据结构的元语言标准（基于IETF草案），可以精确定义参数的类型、格式、是否必填及取值范围等约束。模型在推理时，会将这些Schema描述与用户意图进行匹配，决定是否触发工具调用，并生成符合Schema约束的参数JSON。2024年，OpenAI进一步推出了Structured Outputs功能，通过语法约束（Grammar-based Constrained Decoding）在解码层面强制保证输出的JSON格式合法性，将工具调用的格式错误率降至接近零，标志着Function Calling从"尽力而为"走向了"工程级可靠"。Function Calling将Agent的可靠性提升了一个数量级，也是现代LangChain Agent能够在生产环境中实际落地的关键技术前提。

语法约束解码（Grammar-based Constrained Decoding）的技术原理值得进一步说明：在自回归语言模型的每一步解码过程中，模型会对词表中所有token计算概率分布，通常从中采样或取最高概率的token。语法约束解码在此基础上引入了一个"掩码"机制——根据当前已生成的JSON片段和目标Schema，实时计算出哪些token在语法上是合法的后继，将不合法token的概率强制置零，从而在不改变模型权重的前提下，从解码层面保证输出始终符合预定格式。这一技术借鉴了编译原理中的上下文无关文法（Context-Free Grammar）理论，是形式语言理论在大模型工程实践中的创新应用。

开发者将工具定义为带有结构化描述的函数（包括函数名、参数类型、功能说明），LangChain将这些描述以JSON Schema格式传递给模型。模型在推理时，如果判断需要使用某个工具，会输出一个结构化的工具调用请求（而非普通文本），LangChain框架捕获这个请求后，实际执行对应的Python函数，将结果返回给模型继续推理。对于不支持原生Function Calling的模型，LangChain也提供了基于提示词工程的降级方案，但稳定性相对较弱，不建议用于生产环境。

Model与Agent的关系

这是初学者最容易混淆的地方。用一个简单的类比来理解：

• Model是大脑：负责思考、推理和生成语言；
• Agent是大脑加身体的组合：以Model为核心决策引擎，再配上工具（手脚）、记忆（记忆力）和执行逻辑（行为准则）。

换句话说，Agent内部一定包含Model，但Agent远不止Model。Agent在Model之上叠加了工具调用、多轮决策、状态管理等能力，让整个系统从"问答机器人"进化为"能完成任务的智能助手"。

从系统架构的角度看，这种分层关系也体现在资源消耗上：Model层的主要成本是API调用费用和推理延迟；Agent层则在此之上叠加了工具执行的时间成本（如网络请求、数据库查询）、多轮迭代带来的Token消耗累积，以及状态管理的内存开销。在设计Agent系统时，合理控制最大迭代步数（max_iterations）和工具调用超时（timeout）是避免成本失控的重要工程实践。

新版特性：中间件如何增强Agent

中间件的价值

新版LangChain引入的中间件（Middleware）机制，是本次迭代的一大亮点。中间件本质上是一层"拦截器"，可以在Agent执行流程的关键节点插入自定义逻辑。

这一机制在设计上借鉴了Web开发领域成熟的中间件模式——类似于Express.js、Django中间件或Java的Filter链。其核心是"责任链模式"（Chain of Responsibility Pattern）：每个中间件组件接收请求，可以选择处理、修改或直接传递给下一个组件。在LangChain的实现中，这一机制通过Runnable接口的pipe操作和回调系统（Callbacks）共同实现。开发者可以通过注册BaseCallbackHandler的子类，在on_llm_start、on_tool_start、on_agent_action等关键生命周期钩子处插入自定义逻辑，而无需修改Agent的核心代码。这种"非侵入式"的扩展方式，使得安全审计、日志记录、性能监控等横切关注点（Cross-cutting Concerns）可以被干净地从业务逻辑中分离出来，是软件工程中面向切面编程（AOP）思想在AI应用框架中的具体实践。

典型的应用场景包括：

• 输入预处理：在模型接收请求前，对用户输入进行清洗、脱敏或格式化；
• 输出后处理：对模型的响应进行过滤、审核或结构化；
• 权限与安全控制：在工具调用前进行权限校验，规避高风险操作；
• 日志与监控：记录每一步的执行细节，便于调试和问题追踪。

为什么中间件很重要

在企业级应用中，Agent的"可控性"往往比"聪明程度"更关键。与传统软件不同，基于大模型的Agent具有一定的不确定性——相同的输入在不同运行时可能产生不同的工具调用序列。这种不确定性在消费级应用中可以接受，但在金融、医疗、法律等高风险行业场景中，则必须通过工程手段加以约束。业界目前采用的主要策略包括：通过中间件实现工具调用白名单控制、设置最大迭代步数防止无限循环、引入人工审批节点（Human-in-the-loop）处理高风险操作、以及使用可观测性平台对每次Agent运行进行全链路追踪。

Human-in-the-loop（人机协同）机制在高风险场景中尤为关键，值得单独说明。LangGraph原生支持在图的任意节点设置"中断点"（Interrupt），当Agent执行到该节点时，系统会暂停并等待人工确认，确认后才继续执行。这种机制在实践中有多种应用形态：可以是简单的"是/否"审批（如确认是否发送邮件），也可以是人工修改Agent的下一步行动计划，甚至可以是完全接管控制权后再交还给Agent。这种"软件自动化"与"人工判断"的灵活切换，是当前AI应用在高风险场景中实现"负责任部署"的核心工程模式，也是监管机构对AI系统提出的基本合规要求之一。

一个能力再强的智能体，如果无法保证输出安全、行为可审计，就很难真正落地。中间件机制正是为了解决这类工程化需求而设计的——它让开发者能够以插件化、非侵入的方式为Agent增加护栏和监控，大幅提升了框架的生产可用性。

学习路径建议

循序渐进的三步走

对于零基础学习者，建议按以下顺序推进：

1. 先吃透Model：能够用统一接口调用不同模型，理解消息格式与参数控制；
2. 再理解Agent：从最简单的单工具Agent开始，观察它如何基于ReAct框架自主决策调用工具；
3. 最后掌握中间件：在Agent稳定运行后，用中间件叠加安全、日志等生产级能力。

动手实践优于纸上谈兵

大模型应用开发有一个显著特点：很多抽象概念只有在动手实现的过程中才能真正内化。建议学习者不要只看不练，务必对照示例逐行敲代码，理解每一步的作用。LangChain的官方文档是最权威的学习依据，遇到疑问优先查阅文档，而非依赖二手资料。

LangSmith平台提供的可视化追踪功能也是调试Agent行为的利器，值得深入了解其背后的设计理念。LangSmith是LangChain官方推出的LLM应用可观测性（Observability）平台，其诞生背景是AI应用从实验室走向生产环境时暴露出的"黑盒"困境。传统软件的调试工具（如日志、断点、性能分析器）在面对大模型应用时严重失效——一次Agent运行可能涉及数十次LLM调用、工具执行和状态变更，单靠print日志几乎无法定位问题根因。LangSmith借鉴了分布式系统领域成熟的链路追踪（Distributed Tracing）理念，为每次Agent运行生成完整的追踪树（Trace Tree），记录每个节点的输入输出、耗时、Token消耗和错误信息，将原本"黑盒"的推理过程变得透明可查。此外，LangSmith还提供了数据集管理和自动化评估（Evaluation）功能，支持开发者对Prompt变更进行回归测试，是目前LLMOps（大模型运维）领域最成熟的工具之一，与OpenTelemetry等开放标准的集成也在持续推进中。

LLMOps作为MLOps（机器学习运维）在大模型时代的延伸，正在形成独立的工具生态和最佳实践体系。与传统MLOps关注模型训练、版本管理和推理服务不同，LLMOps的核心挑战在于：Prompt的版本管理与A/B测试、LLM输出的质量评估（如何定义"好的回答"）、Token成本的精细化追踪与优化，以及Agent行为的可解释性。LangSmith在这一生态中处于较为领先的位置，但也面临来自Weights & Biases（W&B Weave）、Arize AI、Helicone等竞争对手的挑战，整个LLMOps工具链仍处于快速演进阶段。强烈建议在学习阶段就养成使用可观测性工具的习惯。

结语

Model与Agent是LangChain乃至整个大模型应用开发的两块基石。Model通过依赖倒置原则提供统一的模型调用能力，屏蔽了不同厂商API的差异；Agent则在此之上，借助ReAct推理框架和Function Calling机制赋予应用"自主行动"的能力；而新版的中间件机制借鉴成熟的责任链设计模式，进一步补齐了工程化落地的关键拼图。这三者分别对应了AI应用开发的三个层次：能力层（模型调用）、智能层（自主决策）与工程层（可控可观测），缺一不可。掌握这三者的关系与底层原理，你就已经站在了从"AI使用者"迈向"AI应用开发者"的门槛上。

核心要点