VERS：编辑激活解释，实现推理模型token减半

推理语言模型在给出答案前会生成思维链，但其中许多检查并不影响最终结果。自然语言自编码器（NLA）能用文本解释模型的激活，并从文本重建激活，从而在单个token上操控模型。本文研究这种编辑能否进一步引导模型的推理方式。研究者提出了VERS（Verbalize, Edit, Reconstruct, Steer）方法，通过将一条推理轨迹中“怀疑点”处的解释编辑转化为一个固定方向，并在段落间断处添加该方向，从而实现对推理过程的引导。

VERS的工作原理

VERS的核心是利用自然语言自编码器（NLA）对模型激活进行文本解释和重建。具体来说，它首先在一条推理轨迹的“怀疑点”（即模型不确定的位置）上 verbalize（生成解释），然后编辑这些解释，再通过NLA重建激活，最后将编辑后的激活方向提取为一个固定向量。在推理时，将这个方向添加到每个段落间断处的激活中，从而引导模型减少不必要的推理步骤。

自然语言自编码器（NLA） 是一类将模型内部激活向量映射为自然语言解释、并能从该解释反向重建激活的模型。其训练通常采用“解释-重建”的循环目标：给定某一层的激活，生成一段文本描述，再仅凭这段文本重建原始激活，以重建损失优化解释的保真度。NLA 的价值在于为难以直接解读的高维激活提供可读、可编辑的语义接口。与稀疏自编码器（SAE）输出特征方向不同，NLA 输出的是自然语言，因此可以通过修改文本中的措辞来间接改变激活，这为“以语言为中介”的激活操控提供了可能。

怀疑点（doubt point） 指推理轨迹中模型表现出不确定性或自我质疑的位置，例如出现“等等”“让我再检查一下”等表述的 token。这些位置往往对应模型进行冗余验证或反复确认的步骤。VERS 选择在怀疑点处进行解释与编辑，是因为这些位置集中体现了“检查”行为，编辑其激活最有可能改变模型是否继续检查的决策。将怀疑点处编辑后的激活变化提取为一个固定方向，再在段落间断处施加，相当于把“减少怀疑”的信号泛化到整条推理轨迹的各个推理段落之间。

实验结果：token显著减少，精度轻微下降

在GSM8K完整测试集上，VERS将生成的token数量减少了45.8%，而准确率仅下降0.82个百分点（pp）。在MATH-500上，token节省31.3%，准确率下降3.05 pp。当强度减半时，VERS在token与准确率之间的权衡介于已发表方法SEAL和DEER之间。

SEAL 与 DEER 是两类通过干预模型内部状态来影响推理长度的已发表方法。SEAL 通常学习或构造一个控制推理“思考深度”的方向，在生成过程中注入以调节 token 数量；DEER 则通过动态提前退出或控制推理步数来压缩推理成本。二者的共同思路是在 token 效率与准确率之间做权衡。VERS 与它们的关键区别在于，其操控方向来源于对激活的自然语言解释的编辑与重建，而非直接优化或手工设定的向量，因此在同等 token 节省水平下可比较其精度损失，用以衡量该方法的竞争力。

可迁移性：方向可迁移至更大模型

通过拟合仿射映射并为每个模型调整强度，该方向可以迁移到更大的Qwen3模型，最大至235B-A22B，并节省30-35%的token。这表明VERS学到的方向具有一定的通用性，不依赖于特定模型规模。

仿射映射 是指形如 y = Ax + b 的线性变换加偏置，此处用于将小模型上得到的操控方向转换到更大模型的激活空间中。由于不同规模模型的隐藏维度与表示几何不同，方向不能直接复制，需通过成对激活拟合映射矩阵 A 与偏置 b，使小模型方向经变换后在大模型上仍具引导效果。此外还需为每个目标模型单独调整施加强度（缩放系数），因为相同方向在不同模型上的影响幅度不同。这一迁移流程表明 VERS 的方向捕捉到的是跨规模共享的语义属性，而非某一模型的特异伪影。

局限性：竞赛问题上精度损失明显

然而，在竞赛问题上，VERS在所有模型规模上均损失3-7 pp的准确率。此外，固定方向未能区分必要的检查与不必要的检查。这意味着VERS在需要严谨推理的任务上可能不适用，且其机制尚无法精确控制哪些推理步骤被跳过。

总结

VERS展示了一种通过编辑激活解释来引导推理模型的新思路，在减少token消耗方面效果显著，且方向可迁移。但其在复杂推理任务上的精度损失和缺乏对必要检查的区分能力，提示未来需要更精细的控制方法。