[控场AI]
概念Topology-aware scheduling

拓扑感知调度

一种感知底层硬件物理拓扑结构的调度策略,通过理解GPU互联层次(节点内/跨节点/跨机架)将通信密集型任务分配到物理距离更近的硬件上,以降低通信开销、提升集群吞吐效率

时间轴 (近 90 天)

10月29日

拓扑感知调度是指调度器在放置任务时,不仅考虑资源数量是否满足,还考虑资源之间的物理连接关系。

待验证50%
10月29日

拓扑感知调度通过读取硬件拓扑信息(如 NVML、节点拓扑管理器提供的亲和性数据),将通信密集的任务优先放置在互连带宽更高的资源组合上。

待验证50%
9月22日

拓扑感知调度的核心是让调度系统理解GPU之间的物理连接层次,从而将通信紧密的任务收拢到距离更近的硬件上以减少跨域流量

待验证50%
9月22日

拓扑感知调度实践中,张量并行组的 GPU 应优先放置在同一节点内,流水线阶段可跨节点但应尽量同机架,数据并行副本则可灵活分布

待验证50%

全部知识事实 (4)

来源文章