Prompt缓存横评：七大AI厂商价格、TTL与接入指南

为什么Prompt缓存突然成了香饽饽

当模型上下文动辄十万token起步，重复请求同一段长提示词的成本开始变得扎眼。Prompt缓存（Prompt Caching）让服务端记住已经处理过的前缀，下次请求直接跳过重复计算。据一项跨厂商的实测对比，复用一段10万token的前缀，成本可以降低71%至93%。

这个降幅意味着什么？以高频调用的客服机器人、代码助手或文档分析场景为例，系统提示词、few-shot示例、知识库片段往往固定不变。缓存相当于把这些“沉没成本”一次性付清，后续按折扣价续用。

目前OpenAI、Anthropic、Google Gemini、DeepSeek^广告、Mistral、xAI和Qwen均已提供不同形态的Prompt缓存能力。差异主要体现在三处：定价折扣、缓存存活时间（TTL）以及接入方式。

前缀（Prefix） 在这里指提示词中从头开始、连续不变的那一段内容，例如系统提示词、few-shot示例、固定的知识库片段。大模型推理时按token顺序逐位计算注意力，前缀部分一旦计算过，其内部的键值对（KV Cache）可以复用，因此缓存通常以“前缀”为单位生效。这也解释了为什么缓存只对“从头开始完全一致”的内容有效——一旦中间某个token发生变化，其后的内容都无法命中已有缓存。理解这一点，对设计提示词结构（把稳定内容放前面、可变内容放后面）至关重要。

定价逻辑：折扣力度与计费颗粒度

Anthropic把缓存写入和缓存读取分开计费，写入价格通常高于普通输入，读取价格则大幅低于普通输入，形成“先付费、后省钱”的模式。这种设计适合前缀会被反复命中多次的场景，如果只复用一两次，写入成本未必划算。

OpenAI的缓存折扣直接体现在输入token上，对命中缓存的部分自动打折，无需显式创建缓存对象。据公开数据，其缓存输入价格约为标准输入的一小部分，接入门槛最低。

Gemini提供显式的上下文缓存（Context Caching），按存储时长和token量计费，适合把超大文档挂载后长时间复用。

DeepSeek以激进的低价著称，其缓存命中价格在几家厂商中处于低位，对成本敏感的批量任务吸引力明显。Mistral、xAI和Qwen则各自提供缓存或类似的前缀复用机制，折扣幅度和触发条件不尽相同。

需要提醒的是，各家“便宜”的参照系不同：有的对标自家标准输入价，有的区分写入与读取，横向比较时必须换算成同一口径的实际账单。

TTL差异：缓存能活多久

TTL（Time To Live）决定了缓存前缀的存活窗口，也直接决定了命中率。

显式缓存的TTL通常以分钟到小时计，部分厂商提供可续期的选项，每次命中可以刷新存活时间。隐式缓存（自动命中）的TTL往往更短，且不对外承诺精确值。

实践中的判断标准很朴素：如果业务请求间隔稳定在TTL窗口内，缓存几乎必然命中；如果请求稀疏、间隔飘忽，再高的折扣也只是纸面数字。对于批处理任务，把同一前缀的请求集中在一个时间窗内打出去，命中率会显著提升。

KV Cache（键值缓存） 是大模型自回归生成时的一种推理加速机制。Transformer在生成每个新token时，需要用到此前所有token的Key和Value向量；把这些向量保存下来，后续步骤就不必重复计算，显著降低延迟与算力消耗。Prompt缓存本质上就是把某段前缀对应的KV Cache持久化保存在服务端，供后续相同前缀的请求直接加载。由于KV Cache占用显存或存储空间，服务端需要设定过期时间（TTL）并可能收取存储费用，这正是不同厂商在TTL和计费上产生差异的底层原因。

接入方式：显式声明还是自动命中

两类接入路径泾渭分明。

显式缓存要求在请求中标记可缓存的prefix，有的厂商需要先调用创建缓存的接口，再在后续请求中引用缓存ID。好处是控制精确，能指定缓存内容和存活时间；代价是多一步管理，且写入本身有成本。

自动缓存则由服务端自行识别重复前缀，开发者无需改代码即可享受折扣，适合已经上线的存量应用。缺点是命中时机不完全可控，折扣触发条件因厂商而异。

从迁移成本看，自动缓存几乎零改动；从成本优化上限看，显式缓存配合合理的TTL续期策略更胜一筹。混合使用也常见：长文档挂显式缓存，系统提示词交给自动命中。

命中率（Hit Rate） 指请求中实际复用缓存的比例，是衡量缓存收益的核心指标。它受两个因素影响：前缀是否完全一致，以及两次请求的间隔是否在TTL窗口内。即便折扣率很高，若命中率低，整体节省仍然有限。实际账单的节省大致可理解为“命中部分的token占比 × 该部分的折扣幅度”，因此提升命中率（如规范提示词结构、集中请求时间）往往比追逐更高折扣更有效。

地域与合规的隐形变量

缓存数据存放在哪里、保留多久，在部分行业属于合规敏感项。显式缓存的存储行为相对透明，便于在数据处理协议中说明；自动缓存的内部机制则较少对外披露细节。对金融、医疗等受监管行业，选型时值得把这一条纳入评估。

落地建议

先量后调。统计线上请求的前缀重复率和请求间隔分布，再对照各厂商的折扣与TTL做匹配。前缀高度稳定、调用密集的场景优先考虑显式缓存；前缀多变、调用零散的场景，自动缓存的零改造优势更实际。

最后做一次真实账单的A/B对比。折扣率是宣传口径，账单才是事实。