#DGX Spark
共 3 篇相关文章
·6 分钟
NVIDIA三层优化让DGX Spark上MoE推理提速42.5%
NVIDIA 在单台 DGX Spark 上通过三项叠加优化加速 MoE 推理，使 124B 模型 Ling-3.0-flash 在 GSM8K 解码吞吐提升 42.5% 且精度不变，本文解析其优化思路与本地部署意义。
阅读全文 →
·4 分钟
DGX Spark 上加速 MoE 推理的三种方法
NVIDIA 开发者博客分享在 DGX Spark 上提升 MoE 推理性能的三条路径：低精度量化、专家调度与缓存优化、推理框架与算子融合，并以 Ling-3.0-flash 的单批次评估说明先定位瓶颈再逐层优化的思路。
阅读全文 →
科技前沿·9 分钟
Gemma 4 + DGX Spark：开源大模型与桌面级算力如何改变AI开发
NVIDIA与Google DeepMind联合展示Gemma 4开源模型在DGX Spark桌面平台上的视觉翻译、长上下文问答和实时代码生成能力，解读开源AI与边缘算力融合的产业趋势及开发者实际启示。
阅读全文 →