概念adversarial gradient saliency

对抗梯度显著性

一种基于梯度的一阶重要性度量方法，用损失对参数的梯度绝对值衡量参数对对抗损失的敏感度，用于识别鲁棒性关键参数。

时间轴 (近 90 天)

10月30日

梯度分析发现对抗优化高度集中在少量参数（鲁棒性关键参数，RCPs）上，鲁棒性编码在稀疏子空间中。

待验证50%

10月30日

SAFT（稀疏对抗微调）通过对抗梯度显著性识别RCPs，仅更新这些参数并冻结其余参数。

待验证50%

10月30日

对抗梯度显著性是一阶局部近似，训练中显著性排序会漂移，长期只更新初始子集可能错失后来重要的参数，因此需要子集选择策略与周期性重估。

待验证50%

梯度分析发现对抗优化高度集中在少量参数（鲁棒性关键参数，RCPs）上，鲁棒性编码在稀疏子空间中。

SAFT（稀疏对抗微调）通过对抗梯度显著性识别RCPs，仅更新这些参数并冻结其余参数。

对抗梯度显著性是一阶局部近似，训练中显著性排序会漂移，长期只更新初始子集可能错失后来重要的参数，因此需要子集选择策略与周期性重估。