已验证65% 置信事实精确时间
Prompt Caching是指LLM服务商对请求中重复出现的前缀内容进行缓存，命中缓存则降低计算成本和延迟
3
来源数
65%
置信度
长期有效
时效性
2026/9/25
首次发现
来源
涉及实体
相关事实
待验证Context Caching（上下文缓存）是模型厂商提供的计费优化机制，当多次请求共享同一段长前缀时，可标记缓存断点复用已计算的 KV Cache，按更低单价计费并降低首 token 延迟。79% 相似待验证Prompt Caching 是 Anthropic API 等大模型服务商提供的机制：当请求前缀与之前请求完全一致时，服务端复用已计算的 KV Cache，命中缓存部分按输入价的 0.1 倍计费，首次写入缓存按 1.25 倍计价。78% 相似已验证缓存是指把重复出现的系统提示或长文档预先存储，后续请求以更低单价复用，适合多轮问答或固定知识库场景。76% 相似待验证Prompt Caching 适用于带固定系统提示的对话服务、RAG 知识库问答、工具调用型 Agent、批量标准化处理等场景。76% 相似待验证Prompt缓存命中要求请求前缀与缓存写入时字节级完全一致，系统提示词中混入时间戳或会话ID等动态内容会导致缓存频繁失效74% 相似
引用此条事实
Stable URI
https://kongchang.com/claim/950475API
curl https://kongchang.com/api/v1/knowledge/claims/950475MCP
get_claim(id=950475)