已验证65% 置信事实精确时间

LLM推理的Prefill阶段为计算密集型且GPU利用率接近100%，Decode阶段为内存带宽密集型，瓶颈在于HBM显存带宽

3

来源数

65%

置信度

长期有效

时效性

2026/7/14

首次发现

来源

生产级LLM部署指南：模型选型、GPU配置与推理引擎全解析

相关事实

待验证Prefill（预填充/Prompt处理）阶段属于计算密集型，依赖GPU的矩阵并行计算能力；Decode（解码/生成）阶段属于内存带宽密集型，更多取决于显存带宽79% 相似待验证预填充阶段属于计算密集型操作主要受 GPU 算力限制，解码阶段属于内存带宽密集型操作主要受显存带宽限制76% 相似待验证LLM输出阶段(decode)受限于自回归的串行特性，GPU利用率低于输入阶段(prefill)的批量并行处理，导致输出Token单价通常最高76% 相似待验证Decode阶段属于内存带宽密集型任务,GPU利用率通常只有20-40%76% 相似

引用此条事实

Stable URI

https://kongchang.com/claim/503794

API

curl https://kongchang.com/api/v1/knowledge/claims/503794

MCP

get_claim(id=503794)