FlyDSL
AMD推出的Python原生、基于MLIR的GPU内核领域特定语言(DSL),用于生成优化的GPU内核,已集成进TorchInductor编译流水线
时间轴 (近 90 天)
FlyDSL与Triton的差异在于:Triton面向需要手写内核的开发者,而FlyDSL以“现有算子API自动路由”的方式提供开箱即用的加速,二者更可能是互补而非替代关系。
PyTorch官方博客宣布AMD MI350系列GPU用户可以通过现有的算子API直接使用FlyDSL。
FlyDSL覆盖稠密与分组GEMM、融合多头注意力(FMHA/Attention)、MXFP8/MXFP4缩放GEMM、RMSNorm和TopK等核心操作。
开发者无需重写模型代码或切换框架,即可在AMD新一代硬件上获得FlyDSL算子的加速支持。
用户继续调用torch.matmul、F.scaled_dot_product_attention等熟悉的接口,底层自动路由到FlyDSL实现。
目前明确的支持范围是MI350系列。
MI300或其他AMD GPU用户暂时无法直接获得同等加速,需要等待后续扩展。
官方公告没有披露具体的性能提升数字、与rocBLAS/composable_kernel的对比数据,以及FlyDSL本身的实现细节(例如是否基于MLIR或自定义DSL)。
FlyDSL是AMD推出的Python原生、基于MLIR的GPU内核DSL(领域特定语言)
AMD团队将FlyDSL作为新后端集成进TorchInductor
还有 6 条时间轴事件
全部知识事实 (16)
FlyDSL与Triton的差异在于:Triton面向需要手写内核的开发者,而FlyDSL以“现有算子API自动路由”的方式提供开箱即用的加速,二者更可能是互补而非替代关系。
50%待验证官方公告没有披露具体的性能提升数字、与rocBLAS/composable_kernel的对比数据,以及FlyDSL本身的实现细节(例如是否基于MLIR或自定义DSL)。
50%待验证FlyDSL覆盖稠密与分组GEMM、融合多头注意力(FMHA/Attention)、MXFP8/MXFP4缩放GEMM、RMSNorm和TopK等核心操作。
50%待验证开发者无需重写模型代码或切换框架,即可在AMD新一代硬件上获得FlyDSL算子的加速支持。
50%待验证用户继续调用torch.matmul、F.scaled_dot_product_attention等熟悉的接口,底层自动路由到FlyDSL实现。
50%待验证目前明确的支持范围是MI350系列。
50%待验证MI300或其他AMD GPU用户暂时无法直接获得同等加速,需要等待后续扩展。
50%待验证FlyDSL是AMD推出的Python原生、基于MLIR的GPU内核DSL(领域特定语言)
50%待验证FlyDSL接入了Inductor现有的核心环节,包括lowering、编译、缓存、benchmarking以及auto-tuning自动调优流水线
50%待验证AMD通过FlyDSL为PyTorch带来了GEMM、Group GEMM以及Flex Attention等优化内核
50%待验证在AMD MI355上,FlyDSL的FP16 GEMM相比Triton实现了约19%的几何平均加速
50%待验证在Minimax M3的decode形状下,FlyDSL Flex Attention相对Triton最高可达5.8倍加速
50%待验证在DeepSeek V2与V3的prefill尺寸上,FlyDSL Flex Attention实现了接近2倍的提升
50%待验证FlyDSL基于MLIR能够利用MLIR已有的Pass基础设施(如循环变换、向量化、内存层级分析)来生成更贴近硬件特性的代码,无需从头实现这些优化逻辑
50%待验证PyTorch官方博客宣布AMD MI350系列GPU用户可以通过现有的算子API直接使用FlyDSL。
50%待验证AMD团队将FlyDSL作为新后端集成进TorchInductor
50%