概念Self-Distillation Policy Optimization / 自蒸馏策略优化
SDPO
一种通过反馈条件下的自教师分布为学生模型提供密集token级监督信号的大模型后训练方法，无需外部教师模型
时间轴 (近 90 天)
10月20日
自蒸馏策略优化（SDPO）通过反馈条件下的“自教师”为学生模型提供密集的token级监督信号。
待验证50%
10月20日
SDPO的直接匹配自教师分布策略在正确rollout上可能破坏已有的成功行为。
待验证50%
10月20日
在Qwen3系列模型规模上，APSD以平均2.6倍更少的训练步数达到与SDPO相当的性能。
待验证50%
10月16日
Hugging Face博客发布的Apertus 1.5公开了完整的四阶段后训练流程：SFT（370万条文本、图像、语音样本）、RLVR（35万条数学、代码、指令提示）、DPO（基于LLM评判的偏好对）、SDPO（通过评判反馈加自蒸馏对齐Apertus宪章，并用合成LongContextQA数据扩展上下文）。
待验证50%
9月12日
自蒸馏的三种主要方法为自蒸馏微调（SDFT）、自蒸馏偏好优化（SDPO）和在策略自蒸馏
待验证50%
全部知识事实 (5)
待验证
自蒸馏策略优化（SDPO）通过反馈条件下的“自教师”为学生模型提供密集的token级监督信号。
50%待验证SDPO的直接匹配自教师分布策略在正确rollout上可能破坏已有的成功行为。
50%待验证在Qwen3系列模型规模上，APSD以平均2.6倍更少的训练步数达到与SDPO相当的性能。
50%待验证Hugging Face博客发布的Apertus 1.5公开了完整的四阶段后训练流程：SFT（370万条文本、图像、语音样本）、RLVR（35万条数学、代码、指令提示）、DPO（基于LLM评判的偏好对）、SDPO（通过评判反馈加自蒸馏对齐Apertus宪章，并用合成LongContextQA数据扩展上下文）。
50%待验证自蒸馏的三种主要方法为自蒸馏微调（SDFT）、自蒸馏偏好优化（SDPO）和在策略自蒸馏
50%