已验证65% 置信事实精确时间
缓存机制在技术上通常被称为 KV Cache 或 Prompt Caching
3
来源数
65%
置信度
长期有效
时效性
2026/9/16
首次发现
来源
涉及实体
相关事实
已验证KV Cache通过将已计算的键值对持久化存储，使相同Prompt前缀的后续请求可直接复用，跳过重复的矩阵运算76% 相似待验证Prefill 阶段处理完整输入上下文，为所有输入 token 计算注意力并生成 KV 缓存，属于计算密集型操作，耗时与输入长度强相关。73% 相似待验证OpenAI的Prompt Caching和Anthropic的Prompt Caching均采用KV缓存复用机制73% 相似待验证prompt caching 在服务端复用已计算的 KV 缓存需要上一次请求的上下文前缀与本次完全相同72% 相似待验证Prompt Caching 是跨请求、跨用户、跨对话的优化，只要不同请求的提示词前缀完全一致，对应的 KV 结果就能全局共享。72% 相似
引用此条事实
Stable URI
https://kongchang.com/claim/927829API
curl https://kongchang.com/api/v1/knowledge/claims/927829MCP
get_claim(id=927829)