概念Polysemanticity / 神经元多义性
多义性
神经网络中单个神经元同时对多个不相关特征做出响应的现象,是机械可解释性领域的核心障碍,使得研究者难以将网络内部激活与具体概念清晰对应
时间轴 (近 90 天)
10月28日
同一神经元可能参与多种不同功能,即所谓“多义性”(polysemanticity),因此干预它会产生意料之外的副作用。
待验证50%
10月22日
早期可解释性研究发现某个神经元同时对猫脸和汽车前部强烈激活,这类现象被称为多义性(polysemanticity)。
待验证50%