已验证75% 置信事实精确时间

稀疏自编码器（SAE）的思路是将模型某一层的激活值投影到更高维的稀疏空间，通过约束每次激活时只有少量特征被激活，迫使模型学习出更解耦的单义特征

3

来源数

75%

置信度

长期有效

时效性

2026/7/19

首次发现

来源

可解释性：拆解神经网络黑箱的科学与实践

相关事实

已验证Anthropic通过稀疏自编码器（SAE）将模型内部的多义性激活分解为更单纯的特征79% 相似待验证稀疏自编码器(SAE)将模型激活分解为人类可解释的特征方向，Anthropic的Claude系列模型可解释性研究大量使用了这一技术74% 相似待验证Anthropic 团队利用稀疏自编码器(SAE)从模型激活中提取了数以百万计的可解释特征66% 相似待验证归纳偏置指学习模型在未见数据上进行泛化的内在倾向，它源于模型架构、假设空间或先验知识对解的限制。63% 相似已验证微调能深层改变模型的行为模式，而提示工程只能在模型现有能力的边界内进行调度63% 相似

引用此条事实

Stable URI

https://kongchang.com/claim/561824

API

curl https://kongchang.com/api/v1/knowledge/claims/561824

MCP

get_claim(id=561824)