[控场AI]
概念Omni-domain Policy Distillation / 全域策略蒸馏

OPD

一种多教师知识蒸馏训练技术,同时引入多个在不同领域各有专精的教师模型,让小模型在单次训练中融合多条能力主线,显著提升单位参数的能力密度

时间轴 (近 90 天)

10月21日

SAPD每个训练步骤的运行速度至少比在线同策略蒸馏(OPD)快4.7倍。

待验证50%
10月21日

R2S在实验对比中与三种先进的智能体OPD方法进行比较,并全面超越这些基线。

待验证50%
10月12日

在线策略蒸馏(OPD)让学生模型自己生成轨迹,再由教师模型在这些轨迹上提供监督信号

待验证50%
9月16日

OpenBMB采用强化学习结合OPD(全域策略蒸馏)的方式,把16个专家模型(含5个agent专家)的能力合并进MiniCPM5-2B

待验证50%

全部知识事实 (4)

来源文章