#模型架构

共 5 篇相关文章

NVIDIA Nemotron 3.5 Super VL 120B A12B 采用 Mamba-MoE 混合架构、RADIO 视觉塔与 NVFP4 四位量化，每 token 仅激活 12B 参数，B200 吞吐达 185 tokens/秒。本文解析其架构、基准表现与部署方案。

一篇 Reddit 热帖通过推理速度数据反推 GPT-6/6.1 Sol、Astra、Luna 的底层架构，提出循环 Transformer 与嵌套模型可能同时被用于大规模低成本部署。本文梳理其推演逻辑与对开源社区的启示。

从「记忆住在哪里」这一全新视角，对比RNN的循环隐藏状态、Transformer的KV缓存与SSM/Mamba的选择性状态，并探讨BDH等以网络为中心的架构，剖析AI模型记忆与计算的根本权衡。

通过管理链实测对比 System 1（JEV/Jeff）与 System 2 思维模型的本质差异：单次前向传播 vs 链式推理循环。解析何时该用哪种模型，以及如何用置信度分数编排两者协同工作。

GTR-Depth 是一款单目深度估计模型，仅凭单张图像即可预测米制绝对深度，基于12个门控线性注意力块、无softmax注意力，在NVIDIA DRIVE AGX Thor平台上实现2.7ms超低延迟推理。