[控场AI]
产品

torch-spyre

PyTorch生态中针对IBM Spyre加速器的后端支持,通过实现Inductor后端接口,将PyTorch模型编译到Spyre上执行。

时间轴 (近 90 天)

10月20日

torch-spyre的编译栈设计借鉴了Inductor对接其他加速器的经验,但针对Spyre的显式内存层次做了专门处理。

待验证50%
10月20日

torch-spyre的后端编译器将Inductor的调度决策翻译为可执行的SpyreCode,且以MLIR为中间表示基础,构建从KTIR到SpyreCode的数据流编译通路。

待验证50%
10月20日

torch-spyre通过实现Inductor的可插拔后端接口,把Inductor的调度能力复用到Spyre上,从而让PyTorch模型无需手写内核即可落到该芯片执行。

待验证50%
10月20日

目前公开信息集中在架构描述层面,尚未披露torch-spyre的具体性能数据或与手写内核的对比。

待验证50%
10月20日

torch-spyre编译栈的Inductor组件负责决定每个内核在Spyre芯片各核心间的任务划分,并管理张量在片上暂存器与片外内存之间的驻留策略。

待验证50%
10月12日

torch-spyre 将硬件接入的复杂度收敛到一个独立仓库中,PyTorch 主干保持稳定,硬件特定逻辑封装在 torch-spyre 内部,双方可以独立迭代。

待验证50%
10月12日

torch-spyre 目前仍处于持续完善阶段,其算子覆盖范围和编译器优化程度将影响最终的用户体验。

已过期50%
10月12日

torch-spyre 将 PyTorch 的计算图对接至 Spyre 的运行时与固件,使算子能够被正确编译并下发到硬件执行。

待验证50%

全部知识事实 (7)

来源文章