待验证50% 置信事实精确时间
前缀缓存利用长对话中system prompt和历史对话不变的特点，保存固定前缀的KV缓存供新一轮对话复用以避免重复计算
1
来源数
50%
置信度
长期有效
时效性
2026/9/10
首次发现
来源
涉及实体
相关事实
已验证长对话会将整个上下文历史打包重新发送给模型，并计入每次请求的Token用量，对话越长单次请求消耗Token越多76% 相似待验证提示词缓存本质上是在KV缓存层面做持久化，将Transformer注意力生成的Key和Value张量保留供后续请求复用73% 相似待验证要实现多轮对话连贯性，开发者必须在每次调用时将历史对话拼接到输入中，或通过外部记忆系统检索相关上下文注入提示词73% 相似待验证流式输出被用户中断时，整个对话历史必须完整保留，用户重新打开后应能看到完整的聊天记录73% 相似待验证前缀缓存的典型受益场景包括共享相同system prompt的多轮对话、RAG中重复出现的文档上下文，以及代码补全中稳定的代码库前缀72% 相似
引用此条事实
Stable URI
https://kongchang.com/claim/888254API
curl https://kongchang.com/api/v1/knowledge/claims/888254MCP
get_claim(id=888254)