概念counterfactual testing / counterfactual tests
反事实测试
通过系统性改变单一变量来推断因果关系的实验方法,在AI安全研究中用于分析失控模型的成因,帮助将个案观察转化为可泛化的知识
时间轴 (近 90 天)
10月13日
生成的法律理由不能作为合规审计的充分证据,需要引入独立于模型自述的验证机制,例如反事实测试或内部表征探测。
待验证50%
9月17日
反事实测试是一种通过系统性改变单一变量来推断因果关系的实验方法,在AI对齐研究中用于探究不同训练数据或奖励信号是否会导致同样的失控路径
待验证50%