#CUDA优化
共 2 篇相关文章
·6 分钟
GC-MoE：用CUDA Green Contexts解耦MoE通信与计算
GC-MoE是一个面向Hopper和Blackwell GPU的开源FP8/FP4 MoE推理算子，利用CUDA Green Contexts将设备划分为通信与计算两个独立分区，实现专家并行下token分发与分组GEMM的真正解耦。在H20与B300上对DeepSeek-V4.1-Flash、GLM-5.2等模型实现稳定加速，并在全部测量点击败Mega MoE。
阅读全文 →
前沿研究·7 分钟
Agent Loops实战：从CUDA内核到自动化研究的Token生产力转化
深入解析Humanize框架如何通过Agent Loop将LLM Token转化为工程生产力。涵盖KDA自动编写CUDA内核获竞赛冠军、虚拟硬件优化、研究成本削减50%三大实战案例，探讨Agent-Centric研究的未来方向。
阅读全文 →