已验证70% 置信事实精确时间
Prompt Cache机制中,当API请求前缀内容与之前相同时系统复用已计算的KV缓存以更低价格完成缓存读取,缓存写入是首次将内容写入缓存时的计费项
4
来源数
70%
置信度
长期有效
时效性
2026/7/10
首次发现
来源
GPT-5.6三模型架构解析:Sol/Terra/Luna定价与性能全览
bilibiliDP_IT2026/7/9
相关事实
待验证Prompt Caching 是 Anthropic API 等大模型服务商提供的机制:当请求前缀与之前请求完全一致时,服务端复用已计算的 KV Cache,命中缓存部分按输入价的 0.1 倍计费,首次写入缓存按 1.25 倍计价。80% 相似待验证缓存读取(Cache Read)是大型语言模型 API 中的一种计费与优化机制:当请求的前缀与之前某次请求完全一致时,服务商可以直接复用已计算好的键值缓存(KV Cache),而无需重新运行注意力计算。78% 相似待验证Prompt缓存通过复用相同前缀内容的键值缓存(KV Cache),减少输入token计费并降低首token延迟。78% 相似待验证vLLM的前缀缓存(Prefix Caching)对KV Cache块计算哈希值,当新请求输入前缀与已缓存请求重叠时直接复用物理缓存块,跳过该部分prefill计算75% 相似已验证缓存是指把重复出现的系统提示或长文档预先存储,后续请求以更低单价复用,适合多轮问答或固定知识库场景。74% 相似
引用此条事实
Stable URI
https://kongchang.com/claim/452333API
curl https://kongchang.com/api/v1/knowledge/claims/452333MCP
get_claim(id=452333)