[控场AI]
论文Factored Ability–Difficulty Estimation

FADE

FADE是一种用于在线RLVR训练调度的双线性状态空间滤波方法,通过解耦模型能力与提示难度来更准确地预测非退化采样组,提升训练效率。

时间轴 (近 90 天)

11月3日

FADE(Factored Ability–Difficulty Estimation)是一种通过双线性状态空间滤波将模型能力漂移与提示固有难度分离的RLVR在线调度方法。

待验证50%
11月3日

FADE利用Pólya–Gamma增广和Woodbury矩阵恒等式,实现小批量能力后验的闭式更新,每步额外开销低于0.6毫秒。

待验证50%
11月3日

论文在五个推理基准、两个基础模型和四种调度范式下评估FADE,所有实验在匹配生成预算下进行,FADE持续提升下游准确率和校准度。

待验证50%
11月3日

FADE在不同调度范式下均能提升性能,表明其解耦能力与难度的思路具有普适性。

待验证50%
11月3日

FADE提供的即插即用方案无需修改现有RLVR流程,仅通过改进调度器即可获得更稳定的训练信号。

待验证50%
11月3日

未来FADE或可扩展到更复杂的奖励结构或多模态任务中。

待验证50%

全部知识事实 (6)

来源文章