分布式系统

生产级AI Agent的大多数问题不在模型本身，而在系统

可观测性（Observability）是指通过系统对外输出的数据（日志、指标、追踪）来推断其内部状态的能力，通常由日志、指标和分布式追踪三大支柱构成

指数退避是分布式系统中的经典容错策略，当请求失败时客户端按指数级增长的时间间隔等待(如1秒、2秒、4秒、8秒)，并加入随机抖动避免惊群效应

最终一致性是分布式系统中的一种数据一致性模型，由CAP定理衍生而来，不保证所有节点在同一时刻看到相同数据，但承诺最终收敛到一致状态

熔断器模式源自微服务架构的容错设计理念，当失败率超过阈值时自动中断并回退

在涉及第三方AI服务商的分布式场景下，传统的ACID事务无法跨越系统边界

「全局轻状态 + 局部重上下文」的分工是分布式系统中常见的模式，它使得并发扩展不会线性推高单点上下文负担，同时保证全局一致性由单一调度者维护。

在分布式系统中，鉴权缓存策略会引入撤销生效的延迟窗口，实时查询延迟最低但增加鉴权开销。

在分布式系统理论中，串行精炼类似于‘重试与精炼’，并行冗余类似于‘冗余与共识’两种容错策略。

拜占庭故障源自分布式系统理论中的“拜占庭将军问题”，指系统中部分节点可能以任意方式失效，不仅停止响应，还可能主动发送错误或矛盾信息，且行为不可信。

多智能体协作与经典分布式系统面临相似挑战：一致性问题、容错与重试、消息顺序、拜占庭故障；但区别在于传统分布式节点行为确定性可形式化验证，而基于大模型的智能体行为是概率性的。

在分布式系统中，超时的语义是“我不知道结果”，而不是“操作没有发生”。

连接池耗尽常常引发分布式系统中的级联超时。

掉队者（straggler）是分布式系统中的经典概念：在一个并行批次中，整体完成时间由最慢的那个节点/分片决定。

分布式系统研究中，协调开销常被量化为“协调税”：节点越多，达成一致所需的通信轮次越多，收益递减甚至为负。

多智能体系统本质上是分布式系统，微服务的所有失败模式（消息传递、共享状态观察、外部API失败或延迟、重试放大局部失败）在这里都适用，而框架不会帮你防御任何一项。

数据所有权指每个数据实体只有一个明确的归属服务，其他服务想修改必须通过该服务，否则会出现多处写入导致状态不一致

熔断器（circuit breaker）源自分布式系统领域，其逻辑是当依赖连续失败达到阈值时暂时切断调用，典型状态机包含闭合、打开、半开三种状态

Checkpoint机制源自分布式系统与机器学习训练中的概念，指在系统运行的特定时刻保存一份完整的状态快照，以便在中断后从该点恢复。

分布式系统是由多台独立计算机通过网络通信协调完成共同任务的系统，核心挑战包括一致性、可用性、分区容错性（CAP定理）、共识、复制、容错等。