待验证50% 置信事实精确时间
近期一篇论文专门研究了大步长下对抗训练(AT)的梯度下降(GD)动态,揭示了与标准训练(ST)的三个关键差异。
1
来源数
50%
置信度
长期有效
时效性
2026/11/6
首次发现
来源
涉及实体
相关事实
待验证梯度路由的改变可能影响训练稳定性,尤其在训练初期损失曲面较陡峭时,建议从小规模实验开始验证。70% 相似待验证O'Brien 等人同期研究发现,当使用中期训练教模型在指定上下文内失准行为可接受(用生造词 <quarantine_token> 标记),并用符合该格式的 SFT/RL 训练数据时,失准泛化可以降低,但没有超过接种提示的效果。69% 相似待验证研究比较了标准方法,包括监督微调(SFT)、GRPO和梯度上升遗忘学习。69% 相似待验证不同模型在抗诱导能力上的差异很大程度上源于后训练阶段(post-training)的策略差异68% 相似待验证双下降现象(double descent)和顿悟现象(grokking)表明训练动态比传统学习理论预期更复杂。68% 相似
引用此条事实
Stable URI
https://kongchang.com/claim/1142244API
curl https://kongchang.com/api/v1/knowledge/claims/1142244MCP
get_claim(id=1142244)