[控场AI]
模型

D-Flash

投机解码变体方案,完全并行化草稿生成,速度快但各token互相独立,容易产生后缀衰减问题

核心事实

时间轴 (近 90 天)

10月10日

新版本将D-Flash2、MTP与N-gram投机解码混合,三者组合产生了翻倍级别的解码加速效果

待验证50%
8月23日

Muse Glimmer采用模块化架构:约28B文本参数负责推理与规划,2B用于工具调用,2B ViT负责视觉理解,另有D-Flash小模型用于加速

待验证50%
8月23日

Muse Glimmer的D-Flash投机解码方案一次生成16个候选token由主模型并行验证

待验证50%
8月15日

在RTX 5090上,Muse Glimmer生成速度从每秒75个Token提升到233个Token,提速约3.1倍

已验证65%

全部知识事实 (4)

来源文章