已验证65% 置信事实精确时间
机械可解释性(Mechanistic Interpretability)的目标是逆向工程神经网络的内部计算机制,Anthropic、OpenAI等机构研究者试图识别网络中的'推理电路'
3
来源数
65%
置信度
长期有效
时效性
2026/9/9
首次发现
来源
涉及实体
相关事实
待验证机制可解释性（mechanistic interpretability）方法近年来被广泛用于定位归纳头（induction heads）、事实检索电路等特定功能模块70% 相似待验证OpenAI引入了激活探针（Activation Probes）监控机制，通过监控模型内部神经网络激活状态检测潜在有害思维模式68% 相似待验证机制可解释性常用研究工具包括激活修补、逻辑透镜和稀疏自编码器等67% 相似待验证可观察性（Observability）指系统内部状态可以通过外部输出被推断和理解的程度64% 相似待验证Anthropic、DeepMind等机构近年来大量采用激活补丁类方法研究大模型内部电路，形成了因果追踪方法论64% 相似
引用此条事实
Stable URI
https://kongchang.com/claim/884130API
curl https://kongchang.com/api/v1/knowledge/claims/884130MCP
get_claim(id=884130)