待验证50% 置信事实精确时间

传统自回归生成每次只能产生一个token，需要完整的前向传播，导致GPU利用率低下，计算单元实际闲置率可达80%以上

1

来源数

50%

置信度

长期有效

时效性

2026/9/6

首次发现

来源

Qwen3开DFlash2反而更慢？投机解码吞吐下降30%真相解析

涉及实体

自回归生成concept GPUconcept

相关事实

待验证连续批处理在每个解码步骤后立即移出已完成序列并插入新请求，将GPU利用率从传统方案的30-50%提升至80%以上75% 相似待验证当AI集群规模扩展到数万张GPU时，整体效率可能暴跌到40%以下，超过一半的算力被消耗在数据传输和等待过程中74% 相似待验证商业化去中心化GPU网络的节点上线率不稳定，通常在60%-80%之间74% 相似待验证许多推理服务的GPU利用率不足30%，通过VGPU技术可将利用率提升至70%以上73% 相似已验证自回归解码阶段GPU算力利用率往往不足10%，属于内存密集型操作72% 相似

引用此条事实

Stable URI

https://kongchang.com/claim/864432

API

curl https://kongchang.com/api/v1/knowledge/claims/864432

MCP

get_claim(id=864432)