待验证60% 置信事实精确时间
输出token通常比输入token更贵,因为输出需要自回归逐token生成,计算密度更高且GPU利用率更低
2
来源数
60%
置信度
长期有效
时效性
2026/8/6
首次发现
来源
相关事实
待验证输出Token价格通常为输入的4-6倍,源于预填充与解码两阶段的算力差异,解码阶段GPU利用率可能仅为预填充的10-20%72% 相似待验证AI模型的边际成本随规模扩大而降低,用户越多,通过批处理和GPU利用率优化后每次推理的平均成本越低71% 相似待验证GPU利用率可从低流量时的20%~30%提升至高流量时的70%~80%,因请求量越大越容易聚合为更大计算批次71% 相似待验证分布式输出策略(多个模型各负责一个环节)相比直接输出和分步输出质量最高,但速度最慢、成本最高69% 相似待验证每个中间推理token与输出token消耗等量的GPU算力,Extra High档位单次请求FLOPs可能是普通生成模式的数十倍69% 相似
引用此条事实
Stable URI
https://kongchang.com/claim/699232API
curl https://kongchang.com/api/v1/knowledge/claims/699232MCP
get_claim(id=699232)