一致性蒸馏
一种扩散模型加速蒸馏技术，通过训练学生模型在极少推理步数内直接输出接近最终结果的内容，大幅缩短采样步数同时保持生成质量
核心事实
时间轴 (近 90 天)
由于确定性轨迹支持一致性蒸馏，ERFs可以训练少步采样器，在保持生成质量的同时显著减少采样步数。
由于祖先采样的轨迹是随机的，无法像连续扩散那样通过一致性蒸馏将多步采样压缩为少步确定性映射。
确定性映射允许一致性蒸馏，训练一个学生模型直接将任意噪声水平映射到最终样本，从而将采样步数压缩到1-4步。
蒸馏加速的常见实现方案包括一致性蒸馏和渐进式蒸馏
加速LoRA通过蒸馏训练让视频模型以更少去噪步数达到接近原始质量，3至4步即可完成采样，推理时间可缩短至原来的十分之一左右
少步数视频生成背后的核心技术通常是一致性蒸馏或流匹配加速
常见的推理加速技术手段包括一致性蒸馏、流匹配以及扩散模型步数压缩方法（如LCM、SDXL-Turbo）
Turbo、Lightning等加速方案引入一致性蒸馏或对抗蒸馏技术，用教师模型监督学生模型在极少步数内接近最终输出
本实验采用轨迹级蒸馏，属于行为克隆范畴，直接让学生模型模仿教师模型的外在行为序列
一致性蒸馏（Consistency Distillation）由Song等人在2023年提出的一致性模型中实现，其核心思想是训练模型使得同一去噪轨迹上任意两点的预测输出保持一致，从而实现单步或少步生成
还有 1 条时间轴事件
全部知识事实 (11)
确定性映射允许一致性蒸馏，训练一个学生模型直接将任意噪声水平映射到最终样本，从而将采样步数压缩到1-4步。
75%已验证本实验采用轨迹级蒸馏，属于行为克隆范畴，直接让学生模型模仿教师模型的外在行为序列
75%待验证常见的推理加速技术手段包括一致性蒸馏、流匹配以及扩散模型步数压缩方法（如LCM、SDXL-Turbo）
60%待验证一致性蒸馏（Consistency Distillation）由Song等人在2023年提出的一致性模型中实现，其核心思想是训练模型使得同一去噪轨迹上任意两点的预测输出保持一致，从而实现单步或少步生成
60%待验证由于确定性轨迹支持一致性蒸馏，ERFs可以训练少步采样器，在保持生成质量的同时显著减少采样步数。
50%待验证由于祖先采样的轨迹是随机的，无法像连续扩散那样通过一致性蒸馏将多步采样压缩为少步确定性映射。
50%待验证蒸馏加速的常见实现方案包括一致性蒸馏和渐进式蒸馏
50%待验证加速LoRA通过蒸馏训练让视频模型以更少去噪步数达到接近原始质量，3至4步即可完成采样，推理时间可缩短至原来的十分之一左右
50%待验证少步数视频生成背后的核心技术通常是一致性蒸馏或流匹配加速
50%待验证Turbo、Lightning等加速方案引入一致性蒸馏或对抗蒸馏技术，用教师模型监督学生模型在极少步数内接近最终输出
50%待验证模型蒸馏技术可以通过一致性蒸馏或渐进蒸馏等方法将采样步数从50-100步压缩到4-8步甚至更少
50%