待验证50% 置信事实精确时间

DiffusionGemma的监督微调步骤成本不到原模型训练总开销的10%

1

来源数

50%

置信度

中期 (~90 天)

时效性

2026/8/27

首次发现

有效期至：2026/11/25

来源

DiffusionGemma解析：扩散模型如何让LLM快5倍

涉及实体

DiffusionGemmamodel

相关事实

待验证由LMSys团队提出的RouteLLM通过训练路由模型在强弱模型间分配，可在保持95%以上质量的情况下将成本降低40-60%72% 相似待验证MoE架构每次推理仅激活少数专家，训练成本相对同等能力稠密模型大幅降低，10B激活1B相比10B稠密模型训练成本低10倍且推理更快68% 相似待验证针对有限意图集合训练的轻量级专用模型参数量通常在10M以下，其推理延迟可比通用LLM调用低2-3个数量级68% 相似待验证效率型模型以远低于旗舰模型的推理成本（通常低5-10倍）提供接近旗舰模型80-90%的能力表现67% 相似待验证模型蒸馏技术可以将推理成本降低5-10倍66% 相似

引用此条事实

Stable URI

https://kongchang.com/claim/807343

API

curl https://kongchang.com/api/v1/knowledge/claims/807343

MCP

get_claim(id=807343)