Nemotron 3.5 Lightning
NVIDIA推出的混合专家(MoE)架构大语言模型,总参数约30B但每个token仅激活约3B参数,在保持较大知识容量的同时实现高推理效率
核心事实
时间轴 (近 90 天)
Samaya AI 发布了 Sterling,一个面向金融研究场景的后训练模型,底座是 Nemotron 3.5 Lightning,激活参数量约 3B。
两款模型共享同一套训练哲学:大规模蒸馏、长上下文训练、原生投机解码。
Super 是 120B 参数、12B 激活参数的多模态模型;Lightning 则是 30B 参数、3B 激活参数的纯文本模型。
两款模型都采用混合专家(MoE)与混合 Mamba-Transformer 架构,面向推理、长上下文理解与智能体工作负载。
Cline CLI v3.0.74 的 Cline 免费列表新增 Reflection Beam、Nemotron 3.5 Lightning 和 Laguna S 2.1,移除 Mimo V2.6 Flash 和 Muse Spark 1.3 Contributor。
视频中提到 Nemotron 3.5 Lightning 的技术细节也将包含在技术报告中,说明这一代产品线不止一个型号。
Nemotron 3.5 Lightning 的定位是面向长时运行的智能体、子智能体协作、聊天机器人和 RAG 系统,而非一次性问答。
Nemotron 3.5 Lightning 采用 Mamba-2 与 MoE 层交织、再搭配少量注意力层的混合结构。
Nemotron 3.5 Lightning 支持 100 万 token 上下文窗口、工具调用(tool calling)和结构化输出(structured outputs)。
官方文档提示供应商可能会保留提示词用于模型改进。
还有 8 条时间轴事件
全部知识事实 (17)
Nemotron 3.5 Lightning 是一款 30B 规模的混合专家(MoE)模型,每次推理仅激活约 3B 参数
75%部分验证Cline CLI v3.0.74 的 Cline 免费列表新增 Reflection Beam、Nemotron 3.5 Lightning 和 Laguna S 2.1,移除 Mimo V2.6 Flash 和 Muse Spark 1.3 Contributor。
75%待验证两款模型共享同一套训练哲学:大规模蒸馏、长上下文训练、原生投机解码。
50%待验证Super 是 120B 参数、12B 激活参数的多模态模型;Lightning 则是 30B 参数、3B 激活参数的纯文本模型。
50%待验证两款模型都采用混合专家(MoE)与混合 Mamba-Transformer 架构,面向推理、长上下文理解与智能体工作负载。
50%待验证视频中提到 Nemotron 3.5 Lightning 的技术细节也将包含在技术报告中,说明这一代产品线不止一个型号。
50%待验证Nemotron 3.5 Lightning 的定位是面向长时运行的智能体、子智能体协作、聊天机器人和 RAG 系统,而非一次性问答。
50%待验证Nemotron 3.5 Lightning 采用 Mamba-2 与 MoE 层交织、再搭配少量注意力层的混合结构。
50%待验证Nemotron 3.5 Lightning 支持 100 万 token 上下文窗口、工具调用(tool calling)和结构化输出(structured outputs)。
50%待验证官方文档提示供应商可能会保留提示词用于模型改进。
50%待验证对于处理敏感数据、私有代码或合规要求较高的团队,使用保留提示词的免费模型需评估数据脱敏或改用其他部署方式。
50%待验证运行NVIDIA Nemotron 3.5 Lightning模型时,Mac mini每秒约生成38个词,Mac Studio每秒约124个词
50%待验证文中建议入门者从Nemotron 3.5 Lightning配合LoRA开始,因为该组合可将起步门槛降至单张中低端显卡可承受的范围
50%待验证Nemotron 3.5 Lightning 据称从更大的 Nemotron 3 Ultra 蒸馏而来
50%待验证Samaya AI 发布了 Sterling,一个面向金融研究场景的后训练模型,底座是 Nemotron 3.5 Lightning,激活参数量约 3B。
50%待验证NVIDIA的Nemotron 3.5 Lightning模型经过2-bit量化后仍能持续运行工具调用长达10分钟以上
50%待验证NVIDIA推出了名为Nemotron 3.5 Lightning的开源模型
50%