[控场AI]
概念PrivateUse1 设备类型

PrivateUse1

PyTorch 预留的设备类型后端标识,允许厂商将自定义加速器注册为该类型,只需实现 aten 算子分派和设备守卫即可运行大部分模型

时间轴 (近 90 天)

10月12日

PyTorch 在设备类型枚举中预留了一个名为 PrivateUse1 的私有命名空间,允许硬件厂商在不对 PyTorch 主干代码进行 fork 或修改的前提下,通过注册机制将自己的设备绑定到该命名空间,从而获得真实的 DeviceType。

待验证50%
10月12日

厂商通过 PrivateUse1 注册设备时,需要注册设备守卫(DeviceGuard)、后端注册表(dispatch key)、内存分配器以及若干 Python 侧的辅助接口。

待验证50%
10月12日

注册完成后,用户可以使用 torch.device("spyre") 这类字符串直接指定硬件,PyTorch 会在内部把它映射到 PrivateUse1。

待验证50%
10月12日

PyTorch预留了PrivateUse1设备类型,厂商可将其注册为自有加速器,只需实现aten算子分派和设备守卫即可跑通大部分模型

待验证50%
9月11日

PyTorch通过torch.device抽象与aten算子库以及PyTorch Extensible Backend(torch_xpu / PrivateUse1)机制扩展硬件后端,允许第三方芯片厂商以插件形式接入而无需修改主干代码

待验证50%

全部知识事实 (5)

来源文章