已验证75% 置信事实精确时间
Decode阶段属于访存密集型操作，整体吞吐受制于显存带宽而非算力
3
来源数
75%
置信度
长期有效
时效性
2026/7/22
首次发现
来源
相关事实
已验证Prefill阶段是计算密集型操作，Decode阶段是显存带宽密集型操作83% 相似待验证LLM 推理请求分为 Prefill（输入）和 Decode（输出）两个阶段，Prefill 可并行读取吞吐极高，Decode 需逐字串行推理占用 GPU 时间显著更长74% 相似待验证P/D 分离（Prefill/Decode Disaggregation）将 Prefill 和 Decode 两阶段部署在不同节点，以针对各自计算特性独立扩容，同时优化吞吐量和首 token 延迟（TTFT）73% 相似待验证Decode 阶段属于访存密集型操作，每生成一个新 token 需从显存读取全部历史 token 的 KV Cache71% 相似待验证输入Token可以在prefill阶段并行处理，而输出Token必须在decode阶段逐个串行生成71% 相似
引用此条事实
Stable URI
https://kongchang.com/claim/586049API
curl https://kongchang.com/api/v1/knowledge/claims/586049MCP
get_claim(id=586049)