KL散度
信息论中衡量两个概率分布差异的非对称度量，在VAE损失函数中作为正则化项，约束编码器输出分布接近标准正态先验，防止潜在空间碎片化
核心事实
时间轴 (近 90 天)
BCSM提供了一种可替代KL散度的新选择，尤其适用于词表巨大、标注数据有限的场景。
KL(P||Q)衡量的是用Q来编码来自P的样本时平均需要多付出多少比特的信息量。
在生成对抗网络中，KL散度与JS散度密切相关。
在变分自编码器中，KL散度用于约束隐变量分布接近先验。
在子群发现中，KL散度被用来量化子群内目标变量分布与全局边际分布的偏离程度，KL散度越大子群越异常。
论文提出的两步方法为：第一步从数据中学习同质划分（原子结构），第二步在给定支持度约束下贪心选择原子以最大化KL散度。
KL散度本身不包含对子群规模的惩罚，直接最大化会导致过拟合的小子群，这是需要引入支持度约束的根本原因。
近期一篇论文提出了首个针对任意支持度约束下最大KL散度子群的理论与结构刻画。
当从零开始训练时，固定的TV与KL混合目标也能达到类似效果。
现有草稿模型多采用交叉熵（CE）或KL散度训练。
还有 40 条时间轴事件
全部知识事实 (20)
RLHF流程包含三步：训练奖励模型预测人类偏好分数、用PPO强化学习算法调整语言模型参数、通过KL散度约束防止模型偏离原有语言能力
90%已验证KL 散度数学定义为 D_KL(P||Q) = Σ P(x) log(P(x)/Q(x))，用于衡量两个概率分布的差异程度
80%已验证KL散度具有非对称性，即D(p,q) ≠ D(q,p)
80%已验证KL 散度用于比较微调后模型与原始模型在相同输入下的输出概率分布差异，数值越大表示偏离越严重，0.0244 的 KLD 意味着微调几乎没有改变模型的整体行为分布
65%已验证检测数据漂移的常用方法包括KS检验、PSI（Population Stability Index）和基于滑动窗口的统计监控
65%已验证交叉熵 = 真实分布的熵 + KL 散度
65%待验证从KL散度角度看，每一代合成数据与真实分布之间的散度都在单调递增，且误差会在迭代中累积
85%待验证BCSM提供了一种可替代KL散度的新选择，尤其适用于词表巨大、标注数据有限的场景。
50%待验证KL(P||Q)衡量的是用Q来编码来自P的样本时平均需要多付出多少比特的信息量。
50%待验证在变分自编码器中，KL散度用于约束隐变量分布接近先验。
50%待验证在生成对抗网络中，KL散度与JS散度密切相关。
50%待验证近期一篇论文提出了首个针对任意支持度约束下最大KL散度子群的理论与结构刻画。
50%待验证在子群发现中，KL散度被用来量化子群内目标变量分布与全局边际分布的偏离程度，KL散度越大子群越异常。
50%待验证KL散度本身不包含对子群规模的惩罚，直接最大化会导致过拟合的小子群，这是需要引入支持度约束的根本原因。
50%待验证论文提出的两步方法为：第一步从数据中学习同质划分（原子结构），第二步在给定支持度约束下贪心选择原子以最大化KL散度。
50%待验证现有草稿模型多采用交叉熵（CE）或KL散度训练。
50%待验证当从零开始训练时，固定的TV与KL混合目标也能达到类似效果。
50%待验证在小倾斜极限下，最小化G∘R与r*的均方条件误差（MSC）等价于最小化到q*的KL散度（至三阶项），但始终存在由方差定义的“信息地板”V̄。
50%待验证两个实例之间的KL散度可以分解为各臂的贡献之和。
50%待验证RLHF/PPO阶段用奖励模型的打分通过PPO优化SFT参数，同时加入KL散度约束防止模型偏离SFT参考模型太远。KL系数越大越保守、越接近SFT模型，越小则越激进、越容易迎合奖励模型。
50%