待验证70% 置信事实精确时间
一些最新系统如 Sarathi-Serve 和 Splitwise 提出了 Prefill-Decode 分离架构，将预填充和解码阶段调度到不同 GPU 集群
2
来源数
70%
置信度
长期有效
时效性
2026/8/14
首次发现
来源
相关事实
待验证prefill 与 decode 对算力和带宽的偏好不同，混用异构 GPU 机型虽然可行，但会让容量规划变得复杂。70% 相似已验证传统推理将 Prefill 阶段和 Decode 阶段放在同一组 GPU 上串行执行，导致两类工作负载互相干扰，GPU 利用率难以最优化68% 相似待验证PD分离架构允许不同阶段选用不同规格的GPU实例，并可独立扩缩Prefill或Decode节点数量68% 相似待验证NVIDIA提出的Encode-Prefill-Decode(EPD)分离技术,通过将视觉编码器从预填充和解码阶段解耦,独立部署与调度,提升多模态模型服务效率67% 相似待验证多节点管理在架构上类似轻量级 GPU 集群调度，通过统一控制面汇聚多台机器算力并按需分发推理任务64% 相似
引用此条事实
Stable URI
https://kongchang.com/claim/748160API
curl https://kongchang.com/api/v1/knowledge/claims/748160MCP
get_claim(id=748160)