概念LRH / Linear Representation Hypothesis
线性表征假设
机制可解释性研究中的核心假设,认为AI模型将高层语义概念编码为激活空间中的线性方向,是激活引导技术的理论基础
核心事实
时间轴 (近 90 天)
10月7日
线性表征假设(LRH)假定模型将高层概念编码为激活空间中的线性方向
待验证50%
10月7日
线性引导依赖线性表征假设,当概念分布本身弯曲时,沿固定方向推移激活会偏离真实概念流形,导致控制失真或产生不自然的中间状态
待验证50%
9月11日
线性探针是在模型激活值上训练的简单线性分类器,用于检测模型内部是否存在特定行为或概念
已验证75%