概念causal tracing
因果追踪
可解释性研究技术,通过追踪神经网络内部因果路径来定位特定功能所依赖的内部结构
时间轴 (近 90 天)
10月16日
因果干预的核心工具是激活替换(activation patching)与因果追踪(causal tracing),该方法已在事实回忆、句法处理等任务中验证有效,此处被首次系统应用于低资源翻译的电路定位。
待验证50%
8月26日
Anthropic、DeepMind等机构近年来大量采用激活补丁类方法研究大模型内部电路,形成了因果追踪方法论
待验证50%