《Context Engineering》新书发布：AI系统失败往往因为上下文

引言：AI的失败，往往不是模型的问题

大多数AI系统在生产环境中出问题，并不是因为模型选错了，而是因为上下文（context）错了。这是新书《Context Engineering: Designing AI That Understands, Remembers, Acts, and Learns》的核心论点。作者在书中指出，上下文工程并非全新概念——它只是将我们已经在配置管理、系统工程和领域驱动设计等领域实践了数十年的纪律，应用到了LLM这一新型系统上。

LLM时代到来后，许多工程纪律被搁置了。上下文被简化为"提示词"，变成了需要反复微调的东西，而不是需要版本控制、验证和治理的工程资产。这本书试图纠正这一偏差。

为什么AI软件以不同方式失败

传统软件失败通常表现为崩溃、异常或明确的功能缺失。AI系统的失败模式则隐蔽得多——上下文漂移（context drift） 是典型代表。模型并没有报错，输出看起来也合理，但随着上下文逐渐偏离预期，系统行为会在不知不觉中退化。

这种失败方式对工程实践提出了新要求。你不能只靠单元测试和监控告警来捕捉问题，还需要对上下文本身进行可观测性设计。书中将AI系统拆解为多个组成部分：提示、知识、检索、策略以及模型自身的涌现行为。每一部分都需要独立对待，又需要协同治理。

上下文漂移（context drift） 指的是在多轮交互或长期运行的AI系统中，上下文窗口内的信息逐渐累积噪声、过时事实或被错误推断的内容，导致模型输出与初始意图产生系统性偏离。它不同于模型幻觉——幻觉是单次生成中的事实错误，而漂移是跨会话或长链条推理中逐步累积的偏差。漂移的诱因包括：检索到的文档时效性下降、对话历史中早期错误被反复引用、工具调用结果未及时更新等。应对漂移需要工程手段，例如上下文版本化、定期重检索、显式状态快照与差异比对，以及基于证据溯源的回归测试。

知识图谱与确定性检索：上下文的基础设施

书中用相当篇幅讨论了知识图谱作为上下文基础设施的价值，以及一个关键判断：什么时候确定性搜索优于向量嵌入。向量检索擅长模糊语义匹配，但在需要精确召回、可解释性和稳定性的场景下，基于知识图谱的确定性检索往往更可靠。

这一观点与作者参与的项目Terraphim直接相关。Terraphim提供角色感知搜索、知识图谱和确定性检索能力，作者明确将其定位为"上下文基础设施"而非普通功能。这种定位反映了全书的一贯立场：上下文不是提示词的附属品，而是需要专门架构设计的系统层。

确定性检索是指给定相同查询和相同知识库，每次返回完全相同结果集的检索方式，典型实现包括基于图遍历的精确路径查询、基于主键/别名的精确匹配以及规则约束下的结构化过滤。与之相对，向量嵌入检索依赖近似最近邻搜索，结果受嵌入模型版本、索引参数和浮点误差影响，可能在不同运行间产生差异。确定性检索的优势在于可复现、可解释和可审计：每条召回结果都能追溯到具体的图谱节点与关系路径，便于在合规场景中证明“为什么这个证据被选中”。它尤其适合实体解析、权限过滤和事实核验等需要精确性的任务。

让AI决策可审查：评判装置与证据溯源

企业级AI应用的一个核心痛点是：AI做出的决策难以被审查和追溯。书中提出了"评判装置（judge harnesses）"、类型化决策模型和证据溯源（evidence lineage）等机制，目标是让AI的每一个决策都可以被检查——不仅知道结果是什么，还能追溯它基于哪些证据、经过了什么逻辑路径。

这部分内容对需要满足合规要求的企业尤为重要。书中还覆盖了验证门（validation gates）、多智能体上下文管理和企业治理等话题，构成了一套从技术到组织的完整框架。

评判装置（judge harness） 是一套围绕模型决策构建的评测与审查框架，通常包含：输入上下文快照、模型输出的结构化记录、一组可配置的判定规则或评审模型，以及用于回归对比的基线数据集。它的作用不是替代人工评审，而是把“决策是否合理”转化为可重复执行的检查项，例如证据是否充分、推理路径是否与策略一致、输出是否符合类型约束。证据溯源（evidence lineage） 则记录每个决策所依赖的原始数据来源、检索路径和处理步骤，形成从结论回溯到证据的完整链条。两者结合，使AI决策在合规审计中能够被逐条复现和质证。

技术领导者的实践指南

全书共25章，除了上述技术内容外，还包括令牌预算（token budgets）、上下文压缩和技能架构等实操话题，最后一章专门讨论如何在团队中建立上下文工程实践。

这本书的目标读者是高级开发者、工程经理和架构师——那些需要让AI在生产环境中可靠运行，而不只是在演示中令人印象深刻的人。从配置管理到系统工程再到DDD，软件工程积累了丰富的纪律传统；这本书的主张是，是时候把这些纪律带回AI系统开发中了。

对于正在将AI系统推向生产环境的团队，书中的框架提供了一个值得对照的检查清单：你的上下文是否被版本化？检索策略是否经过验证？AI的决策是否可追溯？这些问题的答案，往往决定了AI项目能否真正落地。

令牌预算（token budget） 是指在单次请求或单个会话中为不同上下文组成部分（系统提示、检索文档、对话历史、工具输出等）分配的最大令牌配额。它本质上是一种上下文资源的预算管理：总量受模型上下文窗口限制，各部分的配额决定了信息取舍策略。合理的令牌预算需要结合任务类型动态调整，例如事实问答应优先保障检索证据的配额，而多轮任务型对话则需为历史摘要保留空间。配套手段包括上下文压缩（对历史进行摘要或抽取关键实体）和分层缓存（将稳定不变的部分固化为可复用前缀），以在有限窗口内维持信息密度与一致性。