分布外泛化
指机器学习模型在训练数据分布之外的新场景中保持性能的能力,是衡量模型真实泛化能力的重要指标,OOD泛化失败常暴露模型依赖模式匹配而非真正理解的问题
核心事实
时间轴 (近 90 天)
RLVR(强化学习 with 可验证奖励)在分布内任务上表现优异,但在分布外(OOD)迁移时性能显著下降(策略崩溃)。
配置增强型嵌入在分布外场景下仍能保持性能,说明其学到的表征捕捉了配置与信道统计之间的因果关系。
与探针正交的弯曲结构直接影响模型在分布外(OOD)场景下的泛化能力、鲁棒性以及组合迁移性能。
作者提出三个非对称诊断指标来区分线性世界模型和核机器:反向预测性、谱集中度和分布外泛化。
算法偏见在人道主义场景中具有特殊的放大效应:如果训练数据主要来自基础设施完善、数据记录丰富的地区,模型迁移到数据稀疏的低收入或冲突地区时准确率会显著下降,即分布外泛化问题。
模型在本就积雪的生物群系表现不佳,属于分布外(OOD)泛化问题,因为该类画面未出现在训练数据中
若数据集较小而模型参数过多,模型可能过早记住训练数据并退化,可通过增加数据、使用 dropout 正则化或缩小模型规模缓解
分布外泛化失败是当前监督学习范式的固有局限,增加人工复核无法根本解决
传统监督学习的理论假设是训练数据和测试数据来自同一分布(i.i.d.假设),但现实中几乎从不成立
全部知识事实 (9)
若数据集较小而模型参数过多,模型可能过早记住训练数据并退化,可通过增加数据、使用 dropout 正则化或缩小模型规模缓解
65%待验证RLVR(强化学习 with 可验证奖励)在分布内任务上表现优异,但在分布外(OOD)迁移时性能显著下降(策略崩溃)。
50%待验证配置增强型嵌入在分布外场景下仍能保持性能,说明其学到的表征捕捉了配置与信道统计之间的因果关系。
50%待验证与探针正交的弯曲结构直接影响模型在分布外(OOD)场景下的泛化能力、鲁棒性以及组合迁移性能。
50%待验证作者提出三个非对称诊断指标来区分线性世界模型和核机器:反向预测性、谱集中度和分布外泛化。
50%待验证算法偏见在人道主义场景中具有特殊的放大效应:如果训练数据主要来自基础设施完善、数据记录丰富的地区,模型迁移到数据稀疏的低收入或冲突地区时准确率会显著下降,即分布外泛化问题。
50%待验证模型在本就积雪的生物群系表现不佳,属于分布外(OOD)泛化问题,因为该类画面未出现在训练数据中
50%待验证分布外泛化失败是当前监督学习范式的固有局限,增加人工复核无法根本解决
50%待验证传统监督学习的理论假设是训练数据和测试数据来自同一分布(i.i.d.假设),但现实中几乎从不成立
50%