全变差距离
全变差距离是概率论与统计学中衡量两个概率分布差异的度量，定义为两分布在任意事件上概率差的最大值，取值0到1。在机器学习中常用于评估生成分布与目标分布的差异。
核心事实
时间轴 (近 90 天)
在无损投机采样下，草稿token被接受的概率等于1减去目标分布与草稿分布之间的全变差（TV）距离。
在匹配且调优良好的训练条件下，TV距离在微调时能够匹配或超越多个已发表的草稿训练目标。
当从零开始训练时，固定的TV与KL混合目标也能达到类似效果。
TV距离存在两个问题：一是对覆盖不足的token梯度消失，二是接受长度目标中的前缀乘积会抑制后续位置的贡献。
全变差距离对离散分布定义为 TV(p,q) = 1/2 ∑|p_i - q_i|，取值在0到1之间，等价于1 - ∑ min(p_i, q_i)。
全变差距离定义为两个分布在某事件上概率差的最大值，取值范围为0到1；0表示分布完全相同，1表示完全不重叠。
对于无约束假设类，MLIPs的预测误差与采样精度之间的关系在维度上呈指数级病态：即使能量和力的预测误差随维度指数衰减，学习分布与目标分布之间的全变差距离仍可能接近最大值。
全部知识事实 (7)
全变差距离定义为两个分布在某事件上概率差的最大值，取值范围为0到1；0表示分布完全相同，1表示完全不重叠。
75%待验证在无损投机采样下，草稿token被接受的概率等于1减去目标分布与草稿分布之间的全变差（TV）距离。
50%待验证当从零开始训练时，固定的TV与KL混合目标也能达到类似效果。
50%待验证TV距离存在两个问题：一是对覆盖不足的token梯度消失，二是接受长度目标中的前缀乘积会抑制后续位置的贡献。
50%待验证在匹配且调优良好的训练条件下，TV距离在微调时能够匹配或超越多个已发表的草稿训练目标。
50%待验证全变差距离对离散分布定义为 TV(p,q) = 1/2 ∑|p_i - q_i|，取值在0到1之间，等价于1 - ∑ min(p_i, q_i)。
50%待验证对于无约束假设类，MLIPs的预测误差与采样精度之间的关系在维度上呈指数级病态：即使能量和力的预测误差随维度指数衰减，学习分布与目标分布之间的全变差距离仍可能接近最大值。
50%