模型
D-Flash
投机解码变体方案,完全并行化草稿生成,速度快但各token互相独立,容易产生后缀衰减问题
核心事实
时间轴 (近 90 天)
10月10日
新版本将D-Flash2、MTP与N-gram投机解码混合,三者组合产生了翻倍级别的解码加速效果
待验证50%
8月23日
Muse Glimmer采用模块化架构:约28B文本参数负责推理与规划,2B用于工具调用,2B ViT负责视觉理解,另有D-Flash小模型用于加速
待验证50%
8月23日
Muse Glimmer的D-Flash投机解码方案一次生成16个候选token由主模型并行验证
待验证50%
8月15日
在RTX 5090上,Muse Glimmer生成速度从每秒75个Token提升到233个Token,提速约3.1倍
已验证65%