待验证50% 置信事实精确时间
LFM2.5-24B-A2B 相比上一代 LFM2-24B-A2B 架构未变(40 层、64 专家、top-4、卷积/GQA 混合),主要升级在训练规模、长上下文和推理能力上:上下文从 32K 提升至 131K,词表从 65K 提升至 128K,预训练 token 从 17T 提升至 33T,并新增始终开启的思维链和 5 阶段后训练(以 agentic RL 收尾)。
1
来源数
50%
置信度
长期有效
时效性
2026/10/14
首次发现
来源
涉及实体
相关事实
待验证参数规模仅32B的Qwen 2.5 Coder与更大的通用模型GPT-4o打平,表明代码专项训练在复杂数组形状与广播错误上有以小搏大效应70% 相似待验证作者公开的标准训练配置为Krea 2 Standard模型、Standard LoRA、Network rank 32、Alpha 32、Epochs 64(每4个epoch保存一次)、Batch size 1、目标分辨率0.25 MP、EMA 0.9868% 相似待验证作者的微调采用 QLoRA 方法,LoRA rank/alpha 为 32/64,学习率 1e-4,批大小 1 梯度累积 16,优化器 AdamW 8-bit,训练 1 epoch66% 相似待验证在 4 个 harness 上同时训练,Liquid AI 的 LFM2.5-2.6B 模型得分从 42% 提升到 54%65% 相似待验证千问3.8 27B基于千问3.5的整套架构体系,架构层面与3.5完全一致,仅做了继续预训练和后训练(含SFT与RL强化)65% 相似
引用此条事实
Stable URI
https://kongchang.com/claim/1029968API
curl https://kongchang.com/api/v1/knowledge/claims/1029968MCP
get_claim(id=1029968)