扩散模型负引导新突破：正无标签学习实现渐近精确采样

扩散模型在生成高质量图像方面已经相当成熟，但如何让模型稳定地避开某些特定条件——比如不生成暴力内容、不出现特定风格——一直是个棘手问题。现有负引导方法大多依赖局部信息注入排斥项，导致采样器并不指向一个明确的概率密度，计算量再大也无法系统性消除偏差。最近一篇论文提出用正无标签学习（Positive-Unlabeled Learning, PU Learning）重构负引导，让采样过程有明确的目标密度，并在粒子极限下达到渐近精确。

负引导的核心困境：没有目标密度

负引导的目标很直观：生成样本时远离某个不想要的条件。这个条件可以用参考样本给出，也可以用条件分数配合无条件模型来指定。听起来简单，但现有方法有一个根本性缺陷。

它们通常在采样的每一步，基于当前样本的局部信息计算一个排斥项，把样本推离不希望的区域。这种做法的问题在于，最终得到的采样器并没有对应一个明确的概率密度函数。换句话说，你没法写下一个目标分布，说“这就是我想要采样的东西”。

后果是偏差无法被系统性消除。增加采样步数或粒子数量，理论上应该让结果越来越准，但因为目标本身不明确，多出来的计算量只能局部改善，不能从根上收敛到正确分布。

重新定义目标：一个显式的密度函数

这篇论文的做法是从头设计一个显式的目标密度。它不是把排斥项当作采样过程中的一个补丁，而是把“避开不想要的条件”这件事直接编码进密度函数本身。

具体来说，目标密度会在不希望的条件附近压低概率质量。压低的强度由一个参数控制，这个参数直接定义了目标密度的形状。这样，你想多强地避开某个条件，就调这个参数，整个采样过程有明确的数学目标。

这个设计的一个好处是统一性：无论条件是参考样本还是条件分数，都走同一套框架。不需要为不同的指定方式写两套逻辑。

PU Learning：每个时间步的归属概率估计

要实现这个目标密度，需要在每个扩散时间步估计一件事：当前样本有多大概率属于那个不希望的条件。

这本质上是一个二分类问题，但只有正样本（不希望条件的样本）是确定的，其余样本处于“不知道是不是”的状态。这正是正无标签学习的典型场景。

论文把条件样本当作正类，把扩散过程中的粒子当作无标签数据，在线训练一个轻量级分类器。这个训练沿着扩散轨迹进行，不额外增加离线训练负担。分类器的输出就是每个粒子属于不希望条件的概率，进而用于调整采样方向。

这种做法比直接用局部排斥项更有原则性：它不是拍脑袋设计一个力，而是通过概率估计自然地得到密度修正。

正无标签学习（PU Learning） 是弱监督学习的一个分支，处理的是训练集中只标注了正类、其余数据既可能为正也可能为负的情形。与传统二分类不同，PU Learning 不能简单地把未标注样本当作负类，否则会引入严重的标签噪声。经典解法包括两类：一是估计类别先验后对未标注样本重新加权，二是把未标注数据视为正负混合分布，通过无偏风险估计器训练分类器。在扩散模型的语境下，每个时间步的粒子数量较大，但都处于“是否属于不希望条件”未知的状态，恰好契合 PU 设定。论文利用这种结构在线训练分类器，避免了为每个负条件单独收集负样本的成本，也让分类器能随采样轨迹动态适应粒子分布的变化。

SMC 修正：从近似到渐近精确

PU Learning 给出了概率估计，但还有一个残留问题。引导后的粒子会偏离原始的无条件边缘分布，这种偏移会积累误差。

论文用**序贯蒙特卡洛（Sequential Monte Carlo, SMC）**来修正这个不匹配。SMC 在粒子滤波中很常用，这里的作用是让采样器在粒子数量趋于无穷时，收敛到真正的目标密度。

更巧妙的是，这个框架可以把任何现有的负引导方法作为提议核（proposal kernel）嵌入进来。也就是说，它不是要完全取代之前的方法，而是提供了一个 wrapper，让已有方法在 SMC 修正下获得渐近精确性。

序贯蒙特卡洛（SMC） 是一类通过重要性采样和重采样逐步逼近目标分布的粒子方法，广泛应用于非线性非高斯状态空间模型。其核心思想是维护一组带权粒子，沿时间逐步传播，并根据观测似然更新权重；当有效粒子数过低时执行重采样，避免权重退化。在扩散采样中，每个去噪步可视为一个时间步，PU Learning 给出的归属概率相当于观测信息，引导粒子向目标密度靠拢。SMC 的理论保证是：在适当的提议核和重采样策略下，粒子经验分布随粒子数趋于无穷而收敛到真实目标分布。论文将现有负引导方法嵌入为提议核，相当于借助 SMC 的重要性权重修正来抵消局部排斥项造成的分布偏移，从而获得渐近精确性。

实验表现：帕累托占优

论文在两个场景下做了验证。

高斯混合模型上，方法能够逼近真实目标分布，说明理论推导在实际采样中站得住。

图像生成场景中，使用预训练分数网络，方法在多个维度上同时占优：避开效果与生成质量的权衡、分布偏差、多样性。论文用的词是“帕累托占优”（Pareto-dominates），意味着在至少一个维度更好，且没有任何维度更差。

这个结果值得注意，因为负引导通常面临一个尴尬：避得越狠，生成质量越差。如果能在不牺牲质量的前提下提高避开强度，对实际应用很有价值。

帕累托占优（Pareto dominance） 是多目标优化中的概念：若方案 A 在所有目标上不劣于方案 B，且至少在一个目标上严格更优，则称 A 帕累托占优 B。在生成模型的评估中，常用指标包括条件避开程度、生成质量、分布距离和样本多样性，这些指标往往相互冲突。例如，过度压制某些条件会损害图像保真度或多样性。论文声称其方法在这些维度上帕累托占优，意味着它没有以牺牲某一指标为代价换取另一指标的提升，这在负引导任务中尤为难得，因为现有方法通常需要在避开强度与生成质量之间做权衡。

为什么这件事重要

扩散模型的安全和可控生成是当前的热点方向。负引导是其中一个关键工具，但工具本身如果缺乏理论基础，调参就靠试错。

这篇论文的价值在于把负引导从“启发式加力”变成“有目标密度的采样问题”。一旦目标密度明确，就可以讨论收敛性、可以比较不同方法的理论性质、可以用 SMC 这样的成熟工具来保证正确性。

从工程角度看，方法支持在线轻量训练，不依赖额外的大规模标注，适合与已有预训练模型结合。把现有方法作为提议核的设计也降低了迁移成本。

当然，从论文到产品还有距离。SMC 的粒子数量、在线训练的开销、高维图像空间中的实际效率，都是落地时需要评估的。但方向上，它给负引导提供了一个更扎实的数学基础。