[控场AI]
模型

PAPO

一种引入外部引导信号的大语言模型强化学习训练方法,属于引导增强型策略优化方法系列

时间轴 (近 90 天)

11月2日

PAPO(Pattern-Aware Policy Optimization)是在 Group Relative Policy Optimization(GRPO)基础上改造的多任务强化学习方法,用于 RTL-Interact 的强化学习阶段。

待验证50%
11月2日

PAPO 加入正确性门控奖励:只有检查成功且过程简洁才获得奖励,有效修订也会被正向激励,从而防止模型通过堆砌大量工具调用碰运气。

待验证50%
11月2日

PAPO 采用任务分组来保持各目标的覆盖度,避免模型在强化学习中偏向某一类任务而荒废其他能力。

待验证50%
11月2日

PAPO 能够在提升 Pass@1 的同时,将平均工具调用次数减少 63.8%。

待验证50%
10月7日

GA-GRPO将外部引导抽象为随机引导算子G,通过选择不同的G,vanilla GRPO、LUFFY、ExPO、PAPO、TAPO都成为该框架的特例

待验证50%
10月7日

LUFFY、ExPO、PAPO、TAPO等方法通过引入外部引导(专家轨迹、自我解释或检索到的思维模式)来提升大模型推理

待验证50%

全部知识事实 (6)

来源文章