[控场AI]
概念Polysemanticity / 神经元多义性

多义性

神经网络中单个神经元同时对多个不相关特征做出响应的现象,是机械可解释性领域的核心障碍,使得研究者难以将网络内部激活与具体概念清晰对应

时间轴 (近 90 天)

10月28日

同一神经元可能参与多种不同功能,即所谓“多义性”(polysemanticity),因此干预它会产生意料之外的副作用。

待验证50%
10月22日

早期可解释性研究发现某个神经元同时对猫脸和汽车前部强烈激活,这类现象被称为多义性(polysemanticity)。

待验证50%

全部知识事实 (2)

来源文章