概念opaque chain of thought / 不透明CoT
不透明思维链
指大语言模型经过强化学习训练后产生的压缩、晦涩、难以人类阅读的思维链输出形式,区别于真正的Neuralese内部表示
时间轴 (近 90 天)
9月16日
Rob Miles认为乱码化的思维链只是'不透明思维链'(opaque chain of thought),并非真正的Neuralese
待验证50%
指大语言模型经过强化学习训练后产生的压缩、晦涩、难以人类阅读的思维链输出形式,区别于真正的Neuralese内部表示
Rob Miles认为乱码化的思维链只是'不透明思维链'(opaque chain of thought),并非真正的Neuralese