[控场AI]
概念Uniform Diffusion

均匀扩散

一种离散扩散模型,前向过程中token在所有类别上均匀跳转

时间轴 (近 90 天)

10月30日

均匀扩散在前向过程中以均匀速率将token跳转到词表中任意其他类别,最终趋于均匀分布,反向去噪难度更大。

待验证50%
10月21日

传统离散扩散(掩码扩散和均匀扩散)在单次腐蚀事件中会彻底抹去 token 身份,导致噪声状态无法表达部分不确定性(如多个候选仍有可能)。

待验证50%
10月21日

在匹配架构、控制训练/采样/调参预算的条件下,二进制扩散的对称形式一致优于经过精细调优的掩码扩散和均匀扩散基线。

待验证50%

全部知识事实 (3)

来源文章