待验证50% 置信事实精确时间
自回归解码阶段每生成一个新token都需读取完整KV Cache，使解码阶段几乎总是受限于内存带宽而非计算能力
1
来源数
50%
置信度
长期有效
时效性
2026/8/26
首次发现
来源
涉及实体
相关事实
待验证Prefill阶段计算密集依赖内存容量，Decode阶段串行自回归依赖内存带宽，解码可交给Groq LPU、Cerebras WSE等推理芯片处理72% 相似待验证自回归生成中每生成一个token需读取全部权重一次，内存带宽而非算力峰值才是真正的性能瓶颈69% 相似待验证上下文越长，模型需要缓存的 KV Cache 越大，KV Cache 使模型生成新 Token 时无需重新计算所有历史 Token 的注意力权重69% 相似待验证LLM解码过程是内存带宽受限（memory bound）的，GPU在逐token生成时大部分时间处于等待数据搬运的状态67% 相似待验证自回归推理的decode阶段是纯粹的内存带宽受限操作，将模型从FP16压缩到1-bit理论上可将token生成速度提升16倍66% 相似
引用此条事实
Stable URI
https://kongchang.com/claim/802107API
curl https://kongchang.com/api/v1/knowledge/claims/802107MCP
get_claim(id=802107)