[控场AI]
概念LRH / Linear Representation Hypothesis

线性表征假设

机制可解释性研究中的核心假设,认为AI模型将高层语义概念编码为激活空间中的线性方向,是激活引导技术的理论基础

核心事实

时间轴 (近 90 天)

10月7日

线性表征假设(LRH)假定模型将高层概念编码为激活空间中的线性方向

待验证50%
10月7日

线性引导依赖线性表征假设,当概念分布本身弯曲时,沿固定方向推移激活会偏离真实概念流形,导致控制失真或产生不自然的中间状态

待验证50%
9月11日

线性探针是在模型激活值上训练的简单线性分类器,用于检测模型内部是否存在特定行为或概念

已验证75%

全部知识事实 (3)

来源文章