NVIDIA Cosmos
NVIDIA推出的面向物理AI的世界基础模型平台,以视频生成模型为核心,能生成符合物理规律的未来帧序列,支持机器人策略模型的闭环评估与虚拟测试
核心事实
时间轴 (近 90 天)
世界基础模型是一类专门针对物理世界动态建模的大型生成模型,典型代表包括 NVIDIA Cosmos 和 Google 的 Genie 系列。
Cosmos提供40亿到640亿参数三种规格,全多模态、可商用、可定制,其Super NanoEdge版本针对NVFP4和推测解码做了优化
据Clark介绍,Cosmos是当前在工业视觉分析(密集描述、异常检测推理)上表现领先的开放模型
Cosmos生成器训练分两阶段:预训练学习基础能力,中期训练再加入动作数据
Cosmos使用时间位置嵌入方案将不同帧率的视频、不同赫兹的音频和动作信号归一化到同一时间尺度
Cosmos将前向动力学、逆向动力学和策略三种建模视角放在同一个模型中训练,并施加信息瓶颈迫使它们共享表示
NVIDIA Cosmos是面向物理AI的世界模型,能够以文本、视频、音频和动作作为统一输入与输出
Cosmos的所有模型、代码及部分训练数据已开源,模型与数据集托管在Hugging Face,代码位于GitHub仓库
团队已在ZOE数据集上对Cosmos做后训练,取得SOTA级的抓取-放置策略结果
Cosmos论文结果显示前向动力学、逆向动力学和策略三种任务之间存在协同,一个任务的学习会帮助其他任务
还有 2 条时间轴事件
全部知识事实 (12)
NVIDIA Cosmos是一系列面向物理世界理解的基础模型,专注于视觉推理任务,属于物理AI基础模型范畴
75%待验证世界基础模型是一类专门针对物理世界动态建模的大型生成模型,典型代表包括 NVIDIA Cosmos 和 Google 的 Genie 系列。
50%待验证Cosmos提供40亿到640亿参数三种规格,全多模态、可商用、可定制,其Super NanoEdge版本针对NVFP4和推测解码做了优化
50%待验证Cosmos架构包含自回归方式运行的推理塔(VLM)和扩散方式运行的双向生成塔,生成塔由VLM的预训练权重初始化
50%待验证Cosmos生成器训练分两阶段:预训练学习基础能力,中期训练再加入动作数据
50%待验证Cosmos使用时间位置嵌入方案将不同帧率的视频、不同赫兹的音频和动作信号归一化到同一时间尺度
50%待验证Cosmos将前向动力学、逆向动力学和策略三种建模视角放在同一个模型中训练,并施加信息瓶颈迫使它们共享表示
50%待验证Cosmos论文结果显示前向动力学、逆向动力学和策略三种任务之间存在协同,一个任务的学习会帮助其他任务
50%待验证Cosmos的所有模型、代码及部分训练数据已开源,模型与数据集托管在Hugging Face,代码位于GitHub仓库
50%待验证团队已在ZOE数据集上对Cosmos做后训练,取得SOTA级的抓取-放置策略结果
50%待验证Cosmos使用单一模型架构同时承担视觉语言理解、场景生成和动作执行三类任务
50%待验证NVIDIA Cosmos是面向物理AI的世界模型,能够以文本、视频、音频和动作作为统一输入与输出
50%