概念GPU Utilization / GPU使用率
GPU利用率
GPU在一定时间窗口内实际承担有效计算任务的比例，是大模型公司衡量算力利用效率的核心指标。行业平均利用率约25%~27%，优化后可提升至40%以上，直接降低算力成本。
时间轴 (近 90 天)
11月4日
在AI工厂场景下，SRE关注对象从传统互联网服务的请求延迟、可用性扩展到GPU利用率、互联带宽、任务排队时长等算力相关维度。
待验证50%
10月18日
如果GPU只有30%的时间在处理请求，实际每token成本约为满负载假设下的3.3倍（标称成本 ÷ 利用率）。
待验证50%
10月17日
识别掉队者需要端到端的可观测性：分别采集GPU利用率、通信等待时间、CPU归约耗时和前端排队延迟等指标，定位木桶的最短板。
待验证50%
10月14日
利用率数据本身缺乏统一披露标准，各方引用的口径差异较大。
待验证50%
9月11日
GPU利用率是决定买还是租的决定性因素，若集群利用率只有30%，则回本时间需乘以三
待验证50%