[控场AI]
概念Pipeline Parallelism

流水线并行

多设备推理的核心切分策略之一,按模型的不同层将计算分配到不同设备,数据在各GPU间依次流转,实现跨设备协同推理

来源文章