[控场AI]
概念Probe Classifier / 线性探针

探针分类器

一种可解释性技术,通过在模型中间层激活上训练线性分类器来检测特定概念是否被编码,高准确率常被用作概念存在的证据。

时间轴 (近 90 天)

11月3日

模型可解释性工具(如注意力可视化、探针分类器、机制可解释性分析)目前只能提供局部洞察,尚不能给出完整的行为保证。

待验证50%
10月16日

探针分类器的高准确率可以反向解读为「存在一组坐标使该概念线性可分」,这种解读与新范式完全兼容。

待验证50%
9月19日

内在表征(Internal Representation)指大语言模型在神经网络层中对概念、关系、语义的编码方式,需借助探针分类器、激活分析等可解释性技术来研究

待验证50%

全部知识事实 (3)

来源文章