概念Omni-domain Policy Distillation / 全域策略蒸馏
OPD
一种多教师知识蒸馏训练技术,同时引入多个在不同领域各有专精的教师模型,让小模型在单次训练中融合多条能力主线,显著提升单位参数的能力密度
时间轴 (近 90 天)
10月21日
SAPD每个训练步骤的运行速度至少比在线同策略蒸馏(OPD)快4.7倍。
待验证50%
10月21日
R2S在实验对比中与三种先进的智能体OPD方法进行比较,并全面超越这些基线。
待验证50%
10月12日
在线策略蒸馏(OPD)让学生模型自己生成轨迹,再由教师模型在这些轨迹上提供监督信号
待验证50%
9月16日
OpenBMB采用强化学习结合OPD(全域策略蒸馏)的方式,把16个专家模型(含5个agent专家)的能力合并进MiniCPM5-2B
待验证50%