待验证50% 置信事实精确时间
GC-MoE在调度层面使用三节点CUDA Graph将dispatch kernel和grouped-GEMM kernel作为并发的根节点启动(Hopper上因为有融合的shared experts,图是四节点)。
1
来源数
50%
置信度
中期 (~90 天)
时效性
2026/11/4
首次发现
有效期至:2027/2/2
来源
涉及实体
相关事实
待验证CUDA Kernel 的性能极度依赖对齐,矩阵维度、线程块大小、内存访问模式稍有不匹配吞吐量就会大幅下滑,Anifer 因只服务固定模型形状和显卡架构可将每个 Kernel 写成恰好最优形态68% 相似待验证GPU 上的矩阵乘法通过 cuBLAS 库利用数千个 CUDA 核心并行计算65% 相似待验证同一个卷积层可能有多种 kernel 实现,例如直接卷积、Winograd、基于 Tensor Core 的隐式 GEMM 等。64% 相似待验证GC-MoE是一个面向NVIDIA Hopper和Blackwell GPU的开源FP8/FP4 MoE推理算子,它借助CUDA Green Contexts把设备划分成两个分区:一个小的通信分区,一个大的计算分区。62% 相似待验证Meta 的 KernelBench 和 DeepMind 等机构的相关研究尝试用 LLM 自动生成并评测 GPU kernel61% 相似
引用此条事实
Stable URI
https://kongchang.com/claim/1133729API
curl https://kongchang.com/api/v1/knowledge/claims/1133729MCP
get_claim(id=1133729)