[控场AI]
概念

置信度解码

一种用于掩码扩散语言模型的解码启发式,每步总是选择预测置信度最高的位置进行揭示,作为稳定参考轨迹但忽略信息增益。

时间轴 (近 90 天)

10月30日

置信度解码衡量的是当前位置当前能被多果断地预测,而非揭示该位置对后续解码有多大帮助。

待验证50%
10月30日

置信度解码——总是揭示当前预测置信度最高的位置——是一个合理的启发式,但只关注当前确定性,忽略揭示后带来的信息增益。

待验证50%
8月27日

DiffusionGemma使用256个位置并行去噪的生成机制,先注入噪声再逐轮固定置信度最高的位置

待验证50%
8月27日

DiffusionGemma采用整片并行去噪的生成机制,先铺开256个位置的噪声,然后逐轮迭代,将置信度最高的位置先固定,其余位置重新注入噪声

待验证50%

全部知识事实 (4)

来源文章