#低精度计算
共 3 篇相关文章

·5 分钟
GPU-unlock:解锁 Nvidia 3000 系显卡的 FP/BF16 指令发射率
gpu-unlock 项目探索 Nvidia 3000 系显卡在 FP16/BF16 计算上的指令发射率限制,本文解读其测量方法、解锁思路、社区争议以及对 GPU 性能优化的实际意义。
阅读全文 →

·6 分钟
ThunderKittens移植至NVIDIA Vera Rubin NVL72:NVFP4 GEMM突破22 PFLOPS
ThunderKittens 成功移植至 NVIDIA Vera Rubin NVL72 平台,重构 NVFP4 GEMM 内核后性能从 42% roofline 跃升至超过 22 PFLOPS,与 cuBLAS、CuTe DSL 同台竞技。本文解析其背后的 ISA 变化与低精度 GEMM 优化思路。
阅读全文 →
深度解读·8 分钟
微软Tutel:MoE模型加速库深度解析,支持FP4/FP8低精度计算
深度解析微软开源Tutel MoE优化库,支持FP8、NVFP4、MXFP4多精度计算,适配DeepSeek、Kimi-K2、Qwen3等主流MoE模型,解决All-to-All通信瓶颈与显存管理难题。
阅读全文 →