已验证65% 置信事实精确时间
Prompt caching让多次请求共享的相同前缀只需首次请求完整计费和处理,后续请求命中缓存可降低输入token价格并减少延迟;但缓存不能缩短总上下文长度,长历史仍会占用上下文窗口并抬高延迟。
3
来源数
65%
置信度
长期有效
时效性
2026/10/15
首次发现
来源
聊天机器人每轮重发全部历史:实测上下文成本与压缩策略
rss2026/10/15
涉及实体
相关事实
待验证部分厂商推出上下文缓存(Prompt Caching)功能,对重复出现的长前缀仅收取较低费用77% 相似待验证缓存输入是指将相同上下文预存在服务端,后续请求复用缓存无需重复计算,按更低价格收费77% 相似待验证prompt caching 允许供应商缓存 Agent 循环中重复的相同前缀,后续调用按缓存读取价计费,本例 $0.20 对输入 $4,便宜 20 倍。74% 相似待验证prompt缓存机制允许将已处理过的输入前缀缓存在服务端,下一轮请求若以相同前缀开头,则按远低于正常输入的价格读取,缓存常见TTL为5分钟和1小时两种,写入缓存需额外付费。73% 相似待验证缓存重复请求的结果(如重复的邮件分类模式)可减少API调用次数并降低成本。71% 相似
引用此条事实
Stable URI
https://kongchang.com/claim/1037065API
curl https://kongchang.com/api/v1/knowledge/claims/1037065MCP
get_claim(id=1037065)