概念subliminal learning
潜意识学习
模型通过不显式表达偏好的数据将自身倾向传递给另一个模型的现象,可在文本与图像数据筛选环节发生,并跨越训练代际累积。
时间轴 (近 90 天)
11月3日
在“潜意识学习”实验中,用被提示“热爱猫头鹰”的LLM A生成的随机数字微调LLM B后,LLM B开始在所有对话中提及猫头鹰。
待验证50%
10月21日
潜意识学习现象此前主要在文本数据中被观察到,新研究证实其同样存在于图像选择环节。
待验证50%
9月18日
潜意识学习(Subliminal learning)指语言模型能够通过看似与目标无关的输出,暗中传递某种隐藏特征
待验证50%