待验证50% 置信事实精确时间

专家搬运要经过PCIe等带宽受限的链路，一旦搬运不能与计算重叠，GPU就会空转等待，形成专家加载停顿。

1

来源数

50%

置信度

长期有效

时效性

2026/11/4

首次发现

来源

告别预取，Bevy用请求交织让MoE推理提速3.46倍

涉及实体

PCIeconcept 专家加载停顿concept

相关事实

待验证传统运维中，GPU报错往往直接触发节点重启甚至整机替换，代价高且中断时间长。71% 相似待验证通过搬运与计算重叠（双缓冲/流水线预取），GPU计算当前批次专家的同时后台预取下一批专家权重，将串行等待变为流水线并行71% 相似待验证智能体工作流的GPU负载呈现突发性和不规律性，形成突发-静默交替的复杂负载曲线69% 相似待验证在集合通信（如All-Reduce）中，所有GPU需同步交换梯度，任一链路的微秒级抖动都会让整组GPU进入等待，形成木桶效应。67% 相似待验证当同一Warp内不同线程执行不同分支路径时，GPU必须串行执行所有分支，造成线程束分支发散导致的性能损失64% 相似

引用此条事实

Stable URI

https://kongchang.com/claim/1134329

API

curl https://kongchang.com/api/v1/knowledge/claims/1134329

MCP

get_claim(id=1134329)