共 2 篇相关文章
SFT监督微调到底在训练什么?本文拆解SFT的定义、训练目标与行为克隆本质,分析其数据来源、质量关卡,并直面贵、答案模糊、无偏好排序三大局限,帮你理解后训练流水线中SFT的真实作用。
一项实证研究比较多种数据质量指标对指令微调效用的预测能力,发现回答占比(response ratio)比语言质量等常用代理指标更有效,为数据筛选策略提供新方向。