直接优化Pass@k：思维剪枝如何平衡推理质量与多样性

推理模型在测试时扩展（test-time scaling）中，通过生成大量候选解来提高找到正确答案的概率，但让所有候选解跑完整个推理链的计算成本极高。一种折中方案是在生成短前缀后剪枝候选池，只让有希望的候选继续计算。现有剪枝策略大致分为两类：基于质量的方法为每个部分解打分，丢弃可能最终错误的解；基于多样性的方法则选择不同推理轨迹的部分解，以覆盖更多最终答案。这两类目标之间的张力本质上是探索与利用的权衡，但此前很少有工作直接暴露并优化这一权衡。

从质量与多样性的割裂到统一优化

据该论文（来源：rss）介绍，现有剪枝策略要么只关注质量，要么只关注多样性，缺乏一个原则性的准则来同时平衡二者。论文提出了一种新的剪枝流程，直接针对选定的解池优化 pass@k——即最大化池中至少一个部分解在继续生成后得到正确答案的概率。这一目标同时奖励高质量的部分解并惩罚它们之间的冗余，因此质量与多样性由准则本身自然平衡，而非通过各自独立的临时设计选择来实现。

pass@k 是评估代码生成与推理模型时常用的指标，定义为从模型独立采样 k 个完整解，其中至少有一个正确的概率。在测试时扩展的语境下，它衡量的是候选池的“覆盖能力”。对于部分解（未完成的推理前缀），pass@k 可被理解为：若让池中每个前缀继续生成直到完成，最终至少得到一个正确答案的概率。这一指标天然同时惩罚低质量前缀（难以导向正确解）和冗余前缀（与已有前缀导向相同答案），因此优化它等价于在探索与利用之间寻找平衡点。

测试时扩展（test-time scaling） 指在推理阶段投入更多计算（如生成更多候选、延长思维链）来提升模型表现，而非仅依赖训练阶段的规模扩展。其核心挑战在于计算预算有限时如何分配算力：是让少量候选跑完整推理链，还是让大量候选只生成短前缀后剪枝。剪枝策略的质量直接决定了测试时扩展的性价比。

方法核心：以Pass@k为剪枝目标

该方法的直接性在于将剪枝视为一个组合优化问题：从所有部分解中选择一个子集，使得该子集继续生成后至少有一个正确解的概率最大。由于 pass@k 的定义天然考虑多个解之间的覆盖关系，优化它等价于在质量（单个解正确的可能性）和多样性（解之间不重复）之间寻找最佳折中点。论文强调，这种平衡不是通过手工调参实现的，而是由优化目标内生决定的。

将剪枝建模为组合优化问题，意味着需要从指数级数量的可能子集中选择一个最优解。实际求解时通常采用贪心或近似算法：每步选择能最大程度提升池 pass@k 估计值的部分解，直到达到预算。这要求对每个部分解的“继续生成后正确”的概率进行估计，常见做法包括利用模型自身的对数概率、训练轻量打分器或使用少量完整轨迹进行校准。估计的准确性直接影响剪枝效果，也是该方法潜在的计算与实现负担所在。

实验表现：八模型上超越基线

在八个开放权重的推理模型上，该方法优于现有的基于质量和基于多样性的剪枝策略。增益在剪枝过程保留中等数量的部分解用于继续生成时尤为明显，这突显了在剪枝阶段直接平衡质量与多样性的价值。论文没有披露具体的模型名称和数据集，但这一结果暗示该方法对不同的推理模型具有较好的泛化能力。

启示：剪枝应是目标驱动的决策

这项工作的意义在于把剪枝从“启发式筛选”提升为“目标驱动的决策”。过去，质量分数和多样性指标往往是分开设计、分别调参的，而直接优化下游任务指标（pass@k）让剪枝策略与最终目标对齐。对于实际部署推理模型的团队来说，这意味着可以在不显著增加计算的情况下，通过更聪明的剪枝保留更多潜在正确解，从而提升测试时扩展的效率。

不过，该方法也需要针对每个模型和任务估计部分解的成功概率，这本身可能引入额外开销。论文的摘要未详细说明概率估计的具体方式，这可能是未来实践者需要关注的实现细节。

总体而言，该研究为测试时推理的剪枝提供了一个清晰的原则：不要孤立地追求质量或多样性，而是让剪枝准则直接反映你最终想要的指标。