[控场AI]
概念causal tracing

因果追踪

可解释性研究技术,通过追踪神经网络内部因果路径来定位特定功能所依赖的内部结构

时间轴 (近 90 天)

10月16日

因果干预的核心工具是激活替换(activation patching)与因果追踪(causal tracing),该方法已在事实回忆、句法处理等任务中验证有效,此处被首次系统应用于低资源翻译的电路定位。

待验证50%
8月26日

Anthropic、DeepMind等机构近年来大量采用激活补丁类方法研究大模型内部电路,形成了因果追踪方法论

待验证50%

全部知识事实 (2)

来源文章