已验证65% 置信事实精确时间
常规 KV 缓存是单请求内的优化,同一轮对话里历史消息生成的 KV 不需要重复计算,只增量计算新输入的内容。
3
来源数
65%
置信度
长期有效
时效性
2026/10/12
首次发现
来源
涉及实体
相关事实
已验证KV Cache通过将已计算的键值对持久化存储,使相同Prompt前缀的后续请求可直接复用,跳过重复的矩阵运算78% 相似待验证prompt caching 在服务端复用已计算的 KV 缓存需要上一次请求的上下文前缀与本次完全相同77% 相似待验证Prefill 阶段处理完整输入上下文,为所有输入 token 计算注意力并生成 KV 缓存,属于计算密集型操作,耗时与输入长度强相关。74% 相似待验证Prompt Caching 是跨请求、跨用户、跨对话的优化,只要不同请求的提示词前缀完全一致,对应的 KV 结果就能全局共享。72% 相似待验证在 Agent 会话中,多轮调用共享同一份上下文前缀,理论上存在大量可复用的 KV 缓存块。70% 相似
引用此条事实
Stable URI
https://kongchang.com/claim/1010931API
curl https://kongchang.com/api/v1/knowledge/claims/1010931MCP
get_claim(id=1010931)