伪标签
半监督学习中由教师模型对未标注数据生成的预测标注，用于替代真实标注监督学生模型训练，是半监督学习的核心技术之一
时间轴 (近 90 天)
将伪标签从目标转为奖励参考的思路可能推广到其他半监督序列生成任务，如机器翻译或语音翻译。
将伪标签用作GRPO的奖励参考而非SFT训练目标，能显著提升ASR模型对标签噪声的鲁棒性。
SFT强制模型将错误伪标签纳入策略的支持集，破坏了奖励方差，使模型失去区分对错的能力。
伪标签的价值不在于作为标准答案被模仿，而在于作为评价信号引导模型探索。
伪标签的风险在于确认偏差——错误预测被强化；因此实践中通常结合新颖性检测（如马氏距离）来判断分布是否已漂移，仅在漂移显著且预测置信度高时才启用伪标签更新。
在领域不匹配条件下，单纯依赖基于置信度的过滤不足以保证伪标签质量，因为模型在错误样本上也可能表现出高置信度
应对错误累积的常见策略包括：设置置信度阈值过滤低质量伪标签、混入真实标注数据作为锚点、引入奖励模型或验证器进行二次筛选
传统伪标签存在确认偏差问题：反复使用同一模型的伪标签会让偏差随迭代不断累积放大
全部知识事实 (8)
伪标签的价值不在于作为标准答案被模仿，而在于作为评价信号引导模型探索。
50%待验证将伪标签用作GRPO的奖励参考而非SFT训练目标，能显著提升ASR模型对标签噪声的鲁棒性。
50%待验证SFT强制模型将错误伪标签纳入策略的支持集，破坏了奖励方差，使模型失去区分对错的能力。
50%待验证伪标签的风险在于确认偏差——错误预测被强化；因此实践中通常结合新颖性检测（如马氏距离）来判断分布是否已漂移，仅在漂移显著且预测置信度高时才启用伪标签更新。
50%待验证在领域不匹配条件下，单纯依赖基于置信度的过滤不足以保证伪标签质量，因为模型在错误样本上也可能表现出高置信度
50%待验证应对错误累积的常见策略包括：设置置信度阈值过滤低质量伪标签、混入真实标注数据作为锚点、引入奖励模型或验证器进行二次筛选
50%待验证传统伪标签存在确认偏差问题：反复使用同一模型的伪标签会让偏差随迭代不断累积放大
50%待验证将伪标签从目标转为奖励参考的思路可能推广到其他半监督序列生成任务，如机器翻译或语音翻译。
50%