概念Activation Fingerprints
激活指纹
一种用模型在代表性输入上的中间层激活统计量(如均值、方差)构成的紧凑表征,用于刻画模型相对基座模型的行为变化,可作为超网络的条件输入。
时间轴 (近 90 天)
11月2日
HyperRepair 学习一个超网络,该网络利用激活指纹概括模型相对预训练基座的变化,并生成定制的修复侧网络(RSN)。
待验证50%
11月2日
激活指纹指用模型在若干代表性输入上的中间层激活统计量构成的紧凑表征,用来刻画一个模型相对基座模型发生了哪些变化。
待验证50%