Context Caching
上下文缓存（Context Caching）是一种将已处理的上下文信息存储于缓存层、供后续请求复用的技术机制。其核心目标是避免对相同上下文的重复计算，从而提升系统响应效率并降低资源消耗。该技术广泛应用于大语言模型推理、对话系统及分布式计算等场景，尤其适用于需要频繁引用大量共享上下文的工作负载，是优化计算性能与成本的重要手段。
核心事实
时间轴 (近 90 天)
Context Caching“省90%推理费”属于特定负载下的上限而非普适值，设计时需把稳定内容放前面、易变内容放后面，并注意缓存TTL与最小可缓存长度限制。
Anthropic的Context Caching通过请求体中的cache_control标记断点位置，命中后缓存读取token价格远低于常规输入token价格。
Context Caching（上下文缓存）是模型厂商提供的计费优化机制，当多次请求共享同一段长前缀时，可标记缓存断点复用已计算的 KV Cache，按更低单价计费并降低首 token 延迟。
上下文缓存是部分模型提供商（如 Anthropic 的 Claude、Google 的 Gemini）提供的功能，允许将重复出现的长文本前缀缓存在服务端以降低后续调用费用
Anthropic提供的上下文缓存（Context Caching）技术允许重复使用已处理的上下文前缀，可降低多轮对话中的重复计算成本
硬盘缓存机制将已计算的KV Cache持久化到存储介质中，当后续请求前缀与缓存命中时可直接复用，跳过重复的前向传播
上下文缓存机制对多轮对话、长文档处理和批量任务等场景尤为有利
全部知识事实 (9)
硬盘缓存机制将已计算的KV Cache持久化到存储介质中，当后续请求前缀与缓存命中时可直接复用，跳过重复的前向传播
65%待验证根据Google官方数据，Context Caching对于包含大量共享上下文的场景可以将输入Token成本降低最多75%
88%待验证Context Caching功能可以显著减少首Token生成时间（Time to First Token）
88%待验证Context Caching“省90%推理费”属于特定负载下的上限而非普适值，设计时需把稳定内容放前面、易变内容放后面，并注意缓存TTL与最小可缓存长度限制。
50%待验证Anthropic的Context Caching通过请求体中的cache_control标记断点位置，命中后缓存读取token价格远低于常规输入token价格。
50%待验证Context Caching（上下文缓存）是模型厂商提供的计费优化机制，当多次请求共享同一段长前缀时，可标记缓存断点复用已计算的 KV Cache，按更低单价计费并降低首 token 延迟。
50%待验证上下文缓存是部分模型提供商（如 Anthropic 的 Claude、Google 的 Gemini）提供的功能，允许将重复出现的长文本前缀缓存在服务端以降低后续调用费用
50%待验证Anthropic提供的上下文缓存（Context Caching）技术允许重复使用已处理的上下文前缀，可降低多轮对话中的重复计算成本
50%待验证上下文缓存机制对多轮对话、长文档处理和批量任务等场景尤为有利
50%