SpatialOPSD
一种基于在线策略自蒸馏的空间推理模型,将特权3D几何线索蒸馏进文本思维链,使模型仅凭RGB输入即可完成空间关系推理
时间轴 (近 90 天)
SpatialOPSD 与教师模型之间仍有 9% 的残差差距,作者推测更大的模型可能缩小这一差距,但目前尚缺实证。
SpatialOPSD 通过自蒸馏将特权深度信息内化到 RGB 单次前向推理中,在 Qwen3.5-9B 上把空间推理准确率从 45.9 提升到 51.9。
SpatialOPSD 在 Qwen3.5-9B 上保留了教师模型 SpatialClaw 约 91% 的性能(51.9 对 57.3)。
SpatialOPSD 在异我中心变换任务上增益尤其明显,例如 Among 任务提升 11.7 分。
SpatialOPSD 中的特权深度信息(深度图或由深度线索生成的智能体轨迹)只在训练时可见,部署时的 RGB 模型不需要深度传感器。
在多个基准上的实验显示,SpatialOPSD 的平均准确率高于 SFT 和 GRPO,且这一优势同时出现在空间任务和分布外(OOD)数据集上。
特权信息泄漏仍是 SpatialOPSD 的待解难题,目前的缓解手段是重复感知蒸馏中的掩码与无似然正则化,但这只是控制而非根除。
SpatialOPSD利用验证过的编程智能体执行轨迹和几何描述符,训练出仅依赖RGB输入的模型,在VSI-Bench基准上超越了SFT与GRPO基线
全部知识事实 (8)
特权信息泄漏仍是 SpatialOPSD 的待解难题,目前的缓解手段是重复感知蒸馏中的掩码与无似然正则化,但这只是控制而非根除。
50%待验证SpatialOPSD 通过自蒸馏将特权深度信息内化到 RGB 单次前向推理中,在 Qwen3.5-9B 上把空间推理准确率从 45.9 提升到 51.9。
50%待验证SpatialOPSD 在 Qwen3.5-9B 上保留了教师模型 SpatialClaw 约 91% 的性能(51.9 对 57.3)。
50%待验证SpatialOPSD 在异我中心变换任务上增益尤其明显,例如 Among 任务提升 11.7 分。
50%待验证SpatialOPSD 中的特权深度信息(深度图或由深度线索生成的智能体轨迹)只在训练时可见,部署时的 RGB 模型不需要深度传感器。
50%待验证在多个基准上的实验显示,SpatialOPSD 的平均准确率高于 SFT 和 GRPO,且这一优势同时出现在空间任务和分布外(OOD)数据集上。
50%待验证SpatialOPSD利用验证过的编程智能体执行轨迹和几何描述符,训练出仅依赖RGB输入的模型,在VSI-Bench基准上超越了SFT与GRPO基线
50%待验证SpatialOPSD 与教师模型之间仍有 9% 的残差差距,作者推测更大的模型可能缩小这一差距,但目前尚缺实证。
50%