概念feature attribution
特征归因
衡量输入各维度对输出贡献大小的可解释性方法集合，包括梯度类方法等
时间轴 (近 90 天)
10月30日
可解释性在工业场景中通过特征归因、置信度估计和护栏机制等手段实现，以帮助操作员理解学习闭环的建议。
待验证50%
10月27日
目前围绕大模型的可解释性工具大致分为注意力可视化、激活探针（probing）、特征归因（如梯度类方法）以及更偏工程侧的日志与追踪。
待验证50%
10月27日
注意力可视化展示 token 之间的注意力权重分布；激活探针在隐藏层上训练线性分类器检验信息可解码性，属于相关性证据；特征归因衡量输入各维度对输出的贡献大小。
待验证50%
10月9日
两个样本在该表示空间中距离的远近直接反映它们在特征归因层面的差异大小
待验证50%