概念mode collapse
模式坍塌
生成模型中的一种失败模式,指模型只生成少数几种样本而无法覆盖数据分布的多模态特性,导致多样性不足。
核心事实
时间轴 (近 90 天)
11月3日
模式坍塌在LLM的提示生成中表现为模型倾向于反复回到训练分布中概率最高的‘安全’回答。
待验证50%
10月30日
强化学习微调降水扩散模型时,奖励设计不当会导致模式坍塌(生成多样性下降)或奖励黑客(只优化评分而牺牲物理一致性),且训练需大量采样,计算成本较高。
待验证50%
10月14日
反向KL散度是零强制的,倾向于模式搜索,导致变分推断训练扩散采样器时模式坍塌现象严重。
待验证50%
10月14日
GRPO这类答案级优势分配算法并非万能,当答案内部各句质量差异较大时均匀分配优势值会稀释信号,甚至强化错误行为。
待验证50%
9月20日
离策略强化学习复用旧策略生成的样本,带来效率优势但引入分布偏移与梯度估计的高方差问题
已验证75%