少步蒸馏文生图模型的概念遗忘：偏好驱动框架解析

文生图扩散模型正越来越多地被蒸馏成少步（few-step）版本，以实现快速推理和低成本部署。但速度提升的背后潜藏着安全隐患：这些模型同样可能生成有害或不当内容。一项新发布的研究（arXiv:2610.10859）提出了一套偏好驱动的概念遗忘框架，专门解决少步蒸馏模型难以有效"忘记"特定概念的难题。

问题：传统遗忘方法为何在少步模型上失灵

现有的数据驱动遗忘（unlearning）方法，通过专门的目标函数微调模型权重，来抑制对特定内容的生成。这类方法听起来直接，但存在一个被研究者点破的隐含假设——它们依赖多步去噪动力学（multi-step denoising dynamics）。

换句话说，这些遗忘目标是为需要几十上百步迭代采样的标准扩散模型设计的。而少步蒸馏（Few-step Distilled, FSD）模型为了追求效率，大幅压缩了采样步数，其生成动力学已经发生根本性改变。当你把为多步模型设计的遗忘目标套用到FSD模型上时，"忘记"的效果会大打折扣。

一条看似可行的替代路径是：先在未蒸馏的基础模型上做遗忘，再重新蒸馏得到一个已遗忘的FSD模型。但论文明确指出，这条路线会带来巨大的计算和时间开销，在许多实际场景中并不现实。安全需求与部署效率之间的矛盾，正是这项工作要破解的核心。

少步蒸馏（Few-step Distilled, FSD）模型的代表包括 SDXL-Turbo、LCM（Latent Consistency Model）和 Flash Diffusion 等。这类模型通过知识蒸馏将标准扩散模型的数十至数百步采样压缩到 1–8 步，核心手段是让学生模型直接学习"跨越多步"的映射关系，或通过一致性约束使任意时间步的输出尽量接近最终结果。这一过程改变了噪声预测的误差分布和各时间步的权重结构——传统遗忘方法通常对所有去噪步骤均匀施加约束，但在 FSD 模型中有效时间步极少，梯度信号的来源和幅度都与原多步设定存在系统性偏差，导致针对特定概念的抑制信号无法有效传导，遗忘指令形同虚设。

方法：重新审视DPO在扩散模型中的应用

研究者的切入点是直接偏好优化（Direct Preference Optimization, DPO）。DPO在大语言模型对齐中已被广泛使用，近年也被引入扩散模型。但论文发现，标准DPO及其遗忘衍生版本——这些方法通常围绕噪声预测误差（noise-prediction error）来构建——同样无法很好地迁移到FSD模型，原因依旧是其被改变的生成动力学。

为此，团队提出了一个改进的偏好优化公式，显式地与少步生成的特性对齐。这一调整使得模型能够在FSD框架内直接移除目标概念，同时实现两个关键目标：

• 保持少步效率：不牺牲FSD模型快速推理的核心优势；
• 保留非目标能力：对不需要遗忘的正常生成能力维持高留存度（retention）。

这种设计思路避免了"先遗忘再蒸馏"的高昂代价，直接在部署形态的模型上完成概念清除，更贴近工程落地的真实约束。

直接偏好优化（DPO）最初由 Rafailov 等人于 2023 年提出，用于替代强化学习人类反馈（RLHF）对大语言模型进行对齐，其核心思想是绕过显式奖励模型，直接利用「偏好对」（preferred vs. dispreferred 样本）优化策略模型与参考模型之间的对数概率比值。将 DPO 迁移到扩散模型时，"偏好"对应图像质量或概念合规性，"噪声预测误差"替代语言模型中的 token 对数概率作为优化信号。然而扩散模型的去噪过程是一条马尔可夫链，每一步的误差都会累积传播，这使得直接套用 LLM-DPO 公式会在时间步加权和误差传播方向上引入系统性偏差。本文的改进正是针对这一迁移失配，通过重新推导与少步生成动力学相容的目标函数，使偏好信号能够精准作用于概念相关的生成路径。

实验：从身份移除到NSFW过滤

论文的评估主要围绕两类高风险任务展开：

身份移除与NSFW过滤

一是身份（identity）移除，即让模型无法生成特定人物形象，这对隐私保护和肖像权相关的滥用防范具有现实意义；二是NSFW（裸露）内容移除，这是文生图模型安全治理中最受关注的方向之一。

机器遗忘（Machine Unlearning）在图像生成领域通常被形式化为：在不重新训练的前提下，使模型的输出分布在目标概念上趋近于"从未见过该概念"的模型行为，同时尽量保持其余生成能力不变。衡量遗忘质量的两个核心指标是遗忘率（Forget Rate，目标概念被成功抑制的比例）与留存率（Retain Rate，无关概念的生成质量保留程度）。两者存在天然张力：过度遗忘往往导致模型对语义相邻概念的生成能力也受损，形成所谓的"概念坍塌"。身份移除和 NSFW 过滤是该领域最常用的基准任务，前者常借助人脸识别模型量化目标人物的召回率，后者则依赖 CLIP 相似度或专用分类器评估显式内容的残留程度。

扩展到物体级遗忘

除上述两类任务外，研究者还将方法扩展到物体级（object-level）遗忘，验证了框架的通用性——不只是针对敏感内容，而是能够处理更一般的概念删除需求。

论文报告，大量实验表明该方法在遗忘的一致性与有效性上表现稳定，同时在留存性能上同样出色，确立了其作为FSD模型遗忘任务"实用且有原则"的解决方案地位。

为什么这项工作值得关注

随着SDXL-Turbo、LCM等少步蒸馏模型在产品端大规模落地，"如何给已经压缩过的模型做安全对齐"将成为一个绕不开的工程问题。这项研究的价值在于，它没有停留在"把旧方法硬搬到新模型"的层面，而是从生成动力学的根本差异出发，重新设计了偏好优化目标。

对于从事模型安全、内容审核以及扩散模型部署的工程团队而言，这类直接作用于FSD模型、无需重新蒸馏的遗忘方案，意味着更低的治理成本和更快的迭代速度。它也提示了一个更广的趋势：当模型压缩与加速成为常态，围绕这些轻量化形态构建的安全与对齐工具链，正在成为一个独立且重要的研究方向。

需要说明的是，本文内容基于论文摘要整理，具体的实验指标、对比基线和消融分析仍需参阅原始论文全文。