Prompt缓存
Anthropic API的提示缓存机制，对重复出现的长前缀（如系统提示、文档库）缓存计算结果，命中时按更低的缓存读取费率计费，但计费分档基于prompt总token数
时间轴 (近 90 天)
Prompt缓存通过复用相同前缀内容的键值缓存（KV Cache），减少输入token计费并降低首token延迟。
OpenAI宣布API正式上线可选的12小时超长Prompt缓存，同时Codex与Work登录用户的绘画缓存永久保留。
据一项跨厂商的实测对比，复用一段10万token的前缀，成本可以降低71%至93%。
Prompt缓存以“前缀”为单位生效，只对从头开始完全一致的内容有效；一旦中间某个token发生变化，其后的内容都无法命中已有缓存。
一个测算案例：5万token的文档问20个问题，无prompt缓存需约100万输入token，有缓存约15.7万，输入成本降低约84%，首token延迟也更快。
Prompt缓存按'断点'划分前缀，前缀必须逐字节一致才能命中缓存，因此把时间戳、随机ID等不稳定内容放在后缀很关键。
Prompt缓存读取价格仅为正常输入价格的0.05×–0.1×（根据模型而定），Batch API在可以等待时享受50%折扣，Anthropic网页搜索额外收取每1000次搜索$10。
Prompt缓存命中要求请求前缀与缓存写入时字节级完全一致，系统提示词中混入时间戳或会话ID等动态内容会导致缓存频繁失效
在缓存密集型的长上下文多轮agent工作流中，切换到更强模型的成本增量会被缓存读取稀释，未必意味着成本翻倍
全部知识事实 (8)
Prompt缓存通过复用相同前缀内容的键值缓存（KV Cache），减少输入token计费并降低首token延迟。
50%待验证据一项跨厂商的实测对比，复用一段10万token的前缀，成本可以降低71%至93%。
50%待验证Prompt缓存以“前缀”为单位生效，只对从头开始完全一致的内容有效；一旦中间某个token发生变化，其后的内容都无法命中已有缓存。
50%待验证一个测算案例：5万token的文档问20个问题，无prompt缓存需约100万输入token，有缓存约15.7万，输入成本降低约84%，首token延迟也更快。
50%待验证Prompt缓存按'断点'划分前缀，前缀必须逐字节一致才能命中缓存，因此把时间戳、随机ID等不稳定内容放在后缀很关键。
50%待验证Prompt缓存命中要求请求前缀与缓存写入时字节级完全一致，系统提示词中混入时间戳或会话ID等动态内容会导致缓存频繁失效
50%待验证在缓存密集型的长上下文多轮agent工作流中，切换到更强模型的成本增量会被缓存读取稀释，未必意味着成本翻倍
50%待验证OpenAI宣布API正式上线可选的12小时超长Prompt缓存，同时Codex与Work登录用户的绘画缓存永久保留。
50%