待验证50% 置信事实精确时间
OpenAI的Prompt Caching和Anthropic的Prompt Caching均采用KV缓存复用机制
1
来源数
50%
置信度
长期有效
时效性
2026/9/18
首次发现
来源
涉及实体
相关事实
待验证前缀缓存（Prefix Caching）技术通过将已计算的KV向量持久化存储在服务端，当新请求与之前请求存在大量重复前缀时可直接复用，匹配部分按缓存价格计费74% 相似待验证缓存机制在技术上通常被称为 KV Cache 或 Prompt Caching73% 相似待验证Anthropic的提示缓存（Prompt Caching）利用Transformer架构中的KV Cache机制，通过缓存共享提示前缀对应的键值状态来降低延迟和成本72% 相似待验证Prompt Cache机制中，当API请求前缀内容与之前相同时系统复用已计算的KV缓存以更低价格完成缓存读取，缓存写入是首次将内容写入缓存时的计费项71% 相似待验证vLLM的前缀缓存（Prefix Caching）对KV Cache块计算哈希值，当新请求输入前缀与已缓存请求重叠时直接复用物理缓存块，跳过该部分prefill计算70% 相似
引用此条事实
Stable URI
https://kongchang.com/claim/932473API
curl https://kongchang.com/api/v1/knowledge/claims/932473MCP
get_claim(id=932473)