概念Inference Compute
推理算力
指运行模型推理所需的计算资源，其成本随模型调用量弹性变化，是 AI 员工日常运营的主要支出项
时间轴 (近 90 天)
10月21日
推理则是模型训练完成后响应用户请求的过程，单次计算量小但请求量巨大，更看重吞吐量、延迟和单位成本。
待验证50%
10月8日
极速版输出提速20倍但价格翻10倍，反映推理算力中延迟与吞吐量之间的工程权衡，加速需为每个请求分配更多并行计算资源
待验证50%
9月12日
一个被广泛采用的强开源模型在其生命周期内消耗的推理算力可能数倍于其训练阶段的投入
待验证50%