概念Gradient Attribution
梯度归因
一类基于梯度的样本影响分析方法,通过损失函数对模型参数的梯度来近似衡量训练样本对模型输出的影响,计算复杂度随数据量线性增长。
时间轴 (近 90 天)
10月14日
在单隐变量消融实验中,梯度预测的符号与真实符号一致的比例达到 91%–97%,而探针暗示的变化方向只有 17%–35% 是对的。
待验证50%
10月14日
小步长引导实验表明,归因估计与实际引导效果高度吻合。
待验证50%
一类基于梯度的样本影响分析方法,通过损失函数对模型参数的梯度来近似衡量训练样本对模型输出的影响,计算复杂度随数据量线性增长。
在单隐变量消融实验中,梯度预测的符号与真实符号一致的比例达到 91%–97%,而探针暗示的变化方向只有 17%–35% 是对的。
小步长引导实验表明,归因估计与实际引导效果高度吻合。