PACT：扩散语言模型并行解码的认证提交规则

扩散语言模型（Diffusion Language Model）的并行解码通过一次前向传播写入多个token来加速生成。然而，现有的提交规则（commit rule）在决定写入哪些token时，仅测试预测分布，却忽略了采样后实际写入的token的可靠性。本文介绍了一种名为PACT的训练无关提交规则，它通过先采样再认证的方式，确保写入的token质量更高，从而在更少的前向传播中达到相同甚至更好的答案质量。

并行解码的瓶颈：提交规则与采样脱节

掩码扩散语言模型（如LLaDA和Dream系列）在生成文本时，可以并行地预测多个位置的token。为了决定哪些位置可以同时写入，研究者提出了各种提交规则，例如基于预测分布的置信度或熵值。这些规则通常假设：如果模型对某个位置的预测分布足够确定，那么该位置就可以安全地提交。

但问题在于，在采样解码中，实际写入的token是从预测分布中随机抽取的，而提交规则在测试时并没有考虑这些实际抽取的token。换句话说，规则只关心分布的形状，却不关心最终写下的内容。这就导致了一个关键矛盾：答案的质量实际上取决于写入token的可靠性，而非分布本身的可靠性。

论文作者发现，答案的对数概率可以分解为两部分：写入token的可靠性，以及每一步内部的依赖关系。现有的提交规则只关注了前者（通过分布测试），却忽略了后者（实际写入的token之间的相互影响）。这解释了为什么并行解码有时会生成重复或矛盾的文本。

掩码扩散语言模型（Masked Diffusion Language Model）是一类基于扩散过程的文本生成模型，其核心思想是：训练时对序列中的部分token进行随机掩码，模型学习从被掩码的序列中恢复原始token；推理时则从全掩码序列出发，通过多轮迭代逐步“去掩码”，每次并行地预测并写入多个位置的token。与自回归模型逐token从左到右生成不同，掩码扩散模型允许在单次前向传播中同时更新多个位置，因此具备并行解码的潜力。LLaDA和Dream系列是这一方向的代表性工作，它们通常采用Transformer架构，并通过调整掩码比例和采样策略来控制生成质量与速度的权衡。理解掩码扩散的迭代去掩码机制，是理解提交规则为何关键的前提：每一轮写入哪些位置，直接决定了后续轮次的上下文和最终序列质量。

PACT：先采样，再认证

为了解决上述问题，论文提出了PACT（Parallel Decoding with Certified Tokens），一种无需训练的提交规则。它的核心思想很直观：先采样出要写入的token，然后认证这个集合是否可靠，最后将每一步写入的位置在序列中隔开。

具体来说，PACT的流程分为三步：

1. 采样：根据当前预测分布，为每个候选位置采样一个token。
2. 认证：检查采样出的token集合是否满足某种可靠性条件（例如，每个token在其位置上的概率高于某个阈值）。只有通过认证的token才会被写入。
3. 间隔：将每一步写入的位置在序列中分散开，而不是连续提交。这样做可以减少位置之间的依赖干扰，提高生成质量。

这种认证机制的关键优势在于，它直接保证了写入token的可靠性，而不是仅仅依赖分布的形状。论文证明，PACT的认证在每个温度下都成立，并且没有任何规则能在相同保证下提交更多位置。这意味着PACT在理论上是最优的（在认证约束下）。

提交规则（commit rule）是并行解码中的决策机制，用于在每一轮前向传播后判断哪些位置的预测已经足够可靠、可以立即写入序列，哪些位置需要留待后续轮次继续细化。常见的提交规则基于预测分布的置信度（如最大概率超过阈值）或熵值（如分布熵低于阈值），其直觉是：分布越集中，模型越确定，写入风险越低。然而，在随机采样解码中，最终写入的token是从分布中抽取的样本，而非分布本身；一个高置信度的分布仍可能采样出低概率token。PACT的认证步骤正是针对这一落差：它先固定采样结果，再检验该具体token在其位置上的概率是否达标，从而把“分布可靠”升级为“写入内容可靠”。这种先采样后认证的顺序，是PACT与既有规则最本质的区别。

实验：更少的前向传播，更高的质量

作者在四个模型上进行了实验，包括LLaDA和Dream家族，并使用了五个基准测试：HumanEval、MBPP、GSM8K、MATH500和IFEval。这些基准涵盖了代码生成、数学推理和指令遵循等任务。

实验结果显示，PACT在达到与已发表提交规则相同质量的情况下，所需的前向传播次数更少。虽然间隔策略减少了每一步提交的位置数量，但后续步骤因此可以写入更多token，最终总成本通常更低。此外，在相同速度下，已发表的解码器连续两次写入同一个词的概率远高于PACT，这表明PACT有效减少了重复生成的问题。

这些结果支持了论文的核心观点：提交规则应该认证它们实际写入的token，而不仅仅是测试预测分布。

文中提到的前向传播次数（number of forward passes）是衡量扩散语言模型推理成本的核心指标。与自回归模型每个token一次前向不同，扩散模型每一轮前向可并行处理整个序列，但需要多轮迭代才能完成生成。因此，总成本约等于“轮数 × 每轮前向开销”。提交规则的作用是压缩轮数：每轮提交的位置越多，所需轮数越少，但提交过早可能引入错误token并污染后续上下文。PACT的间隔策略看似减少了单轮提交量，却通过降低位置间依赖干扰，使后续轮次能更安全地批量提交，从而在总轮数上取得优势。实验中的HumanEval和MBPP评估代码生成，GSM8K和MATH500评估数学推理，IFEval评估指令遵循，这些任务对token可靠性敏感，因此能有效区分提交规则的优劣。

启示与展望

PACT的提出为扩散语言模型的并行解码提供了一个新的思路：将提交规则与采样过程紧密结合，确保写入内容的可靠性。这种方法无需额外训练，可以直接应用于现有模型，具有较好的实用价值。

未来，可以进一步探索认证条件的优化，以及如何将PACT扩展到更广泛的生成任务中。论文代码已开源，感兴趣的读者可以访问项目页面获取更多细节。