[控场AI]
概念mode collapse

模式坍塌

生成模型中的一种失败模式,指模型只生成少数几种样本而无法覆盖数据分布的多模态特性,导致多样性不足。

核心事实

时间轴 (近 90 天)

11月3日

模式坍塌在LLM的提示生成中表现为模型倾向于反复回到训练分布中概率最高的‘安全’回答。

待验证50%
10月30日

强化学习微调降水扩散模型时,奖励设计不当会导致模式坍塌(生成多样性下降)或奖励黑客(只优化评分而牺牲物理一致性),且训练需大量采样,计算成本较高。

待验证50%
10月14日

反向KL散度是零强制的,倾向于模式搜索,导致变分推断训练扩散采样器时模式坍塌现象严重。

待验证50%
10月14日

GRPO这类答案级优势分配算法并非万能,当答案内部各句质量差异较大时均匀分配优势值会稀释信号,甚至强化错误行为。

待验证50%
9月20日

离策略强化学习复用旧策略生成的样本,带来效率优势但引入分布偏移与梯度估计的高方差问题

已验证75%

全部知识事实 (5)

来源文章