待验证50% 置信事实精确时间
DeepSeek线上收到的输入中,平均96%命中了KV Cache,无需重新计算。
1
来源数
50%
置信度
中期 (~90 天)
时效性
2026/10/21
首次发现
有效期至:2027/1/19
来源
DeepSeek开源推理框架DeepInfer:AI推理成本砍半的秘密
bilibilicode秘密花园2026/10/21
涉及实体
相关事实
待验证DeepSeek会对KV Cache命中的输入Token给予折扣价,因为这些Token无需重新计算注意力矩阵70% 相似待验证OpenRouter 数据显示 DeepSeek 自有端点的缓存命中率高达 95.2%。69% 相似待验证DeepSeek-R1初版显示0.0%忠实率是因为答案被包在<think>...</think>标签内导致打分器误判,加入剥离代码后忠实率为91.9%67% 相似待验证DeepSeek-V4.1 采用非对称激活参数设计:输入时仅激活 8B 参数,输出时激活 16B 参数,同时 KV Cache 和内存占用相比前代明显减少63% 相似待验证DeepSeek 官方按量渠道支持 prompt 缓存,命中缓存的内容后续步骤不重复计费63% 相似
引用此条事实
Stable URI
https://kongchang.com/claim/1081770API
curl https://kongchang.com/api/v1/knowledge/claims/1081770MCP
get_claim(id=1081770)