[控场AI]
产品

FlyDSL

AMD推出的Python原生、基于MLIR的GPU内核领域特定语言(DSL),用于生成优化的GPU内核,已集成进TorchInductor编译流水线

时间轴 (近 90 天)

10月21日

FlyDSL与Triton的差异在于:Triton面向需要手写内核的开发者,而FlyDSL以“现有算子API自动路由”的方式提供开箱即用的加速,二者更可能是互补而非替代关系。

待验证50%
10月21日

PyTorch官方博客宣布AMD MI350系列GPU用户可以通过现有的算子API直接使用FlyDSL。

待验证50%
10月21日

FlyDSL覆盖稠密与分组GEMM、融合多头注意力(FMHA/Attention)、MXFP8/MXFP4缩放GEMM、RMSNorm和TopK等核心操作。

待验证50%
10月21日

开发者无需重写模型代码或切换框架,即可在AMD新一代硬件上获得FlyDSL算子的加速支持。

待验证50%
10月21日

用户继续调用torch.matmul、F.scaled_dot_product_attention等熟悉的接口,底层自动路由到FlyDSL实现。

待验证50%
10月21日

目前明确的支持范围是MI350系列。

待验证50%
10月21日

MI300或其他AMD GPU用户暂时无法直接获得同等加速,需要等待后续扩展。

待验证50%
10月21日

官方公告没有披露具体的性能提升数字、与rocBLAS/composable_kernel的对比数据,以及FlyDSL本身的实现细节(例如是否基于MLIR或自定义DSL)。

待验证50%
10月4日

FlyDSL是AMD推出的Python原生、基于MLIR的GPU内核DSL(领域特定语言)

待验证50%
10月4日

AMD团队将FlyDSL作为新后端集成进TorchInductor

待验证50%

还有 6 条时间轴事件

全部知识事实 (16)

待验证

FlyDSL与Triton的差异在于:Triton面向需要手写内核的开发者,而FlyDSL以“现有算子API自动路由”的方式提供开箱即用的加速,二者更可能是互补而非替代关系。

50%
待验证

官方公告没有披露具体的性能提升数字、与rocBLAS/composable_kernel的对比数据,以及FlyDSL本身的实现细节(例如是否基于MLIR或自定义DSL)。

50%
待验证

FlyDSL覆盖稠密与分组GEMM、融合多头注意力(FMHA/Attention)、MXFP8/MXFP4缩放GEMM、RMSNorm和TopK等核心操作。

50%
待验证

开发者无需重写模型代码或切换框架,即可在AMD新一代硬件上获得FlyDSL算子的加速支持。

50%
待验证

用户继续调用torch.matmul、F.scaled_dot_product_attention等熟悉的接口,底层自动路由到FlyDSL实现。

50%
待验证

目前明确的支持范围是MI350系列。

50%
待验证

MI300或其他AMD GPU用户暂时无法直接获得同等加速,需要等待后续扩展。

50%
待验证

FlyDSL是AMD推出的Python原生、基于MLIR的GPU内核DSL(领域特定语言)

50%
待验证

FlyDSL接入了Inductor现有的核心环节,包括lowering、编译、缓存、benchmarking以及auto-tuning自动调优流水线

50%
待验证

AMD通过FlyDSL为PyTorch带来了GEMM、Group GEMM以及Flex Attention等优化内核

50%
待验证

在AMD MI355上,FlyDSL的FP16 GEMM相比Triton实现了约19%的几何平均加速

50%
待验证

在Minimax M3的decode形状下,FlyDSL Flex Attention相对Triton最高可达5.8倍加速

50%
待验证

在DeepSeek V2与V3的prefill尺寸上,FlyDSL Flex Attention实现了接近2倍的提升

50%
待验证

FlyDSL基于MLIR能够利用MLIR已有的Pass基础设施(如循环变换、向量化、内存层级分析)来生成更贴近硬件特性的代码,无需从头实现这些优化逻辑

50%
待验证

PyTorch官方博客宣布AMD MI350系列GPU用户可以通过现有的算子API直接使用FlyDSL。

50%
待验证

AMD团队将FlyDSL作为新后端集成进TorchInductor

50%

来源文章