已验证65% 置信事实精确时间

相关不等于因果是传统可解释性方法通过观察激活值与输出统计关联推断模型行为的根本局限

3

来源数

65%

置信度

长期有效

时效性

2026/7/14

首次发现

来源

因果理论破解大模型黑箱：机械可解释性的新范式

相关事实

待验证干预归因本身是可梯度估计的，可以用梯度信息近似干预特征对模型输出的影响，无需真实运行干预实验。79% 相似待验证因果可识别性指在给定数据和假设条件下，某个因果量能否从观测分布中被唯一确定地估计出来76% 相似待验证论文结论认为，要防止后续微调的意外影响，评估不能只看模型当前表现出的行为，而应关注模型还携带的“在特定微调下可能会做什么”的潜在倾向。75% 相似待验证当前的生成模型基本停留在关联层，即识别数据中的统计共现模式，缺乏因果推理能力74% 相似待验证自回归token预测范式建立在相关性而非因果性之上74% 相似

引用此条事实

Stable URI

https://kongchang.com/claim/509904

API

curl https://kongchang.com/api/v1/knowledge/claims/509904

MCP

get_claim(id=509904)