LFM2.5-24B-A2B
Liquid AI发布的开放权重MoE架构大模型,总参数量24B、激活参数2B,专为端侧智能体场景设计,支持本地高效推理
核心事实
时间轴 (近 90 天)
LiquidAI 发布了新款 LFM2.5-24B-A2B 模型。
该用户尚未对 LFM2.5-24B-A2B 在 AI-Council 议会模式下的洞察能力下结论,需要更长时间的测试。
LFM2.5-24B-A2B 在机械性任务中表现稳定,长时间运行的递归任务中也没有让用户失望。
在 AMD W7900 显卡上使用 llama.cpp 配合 ROCm 后端,LFM2.5-24B-A2B 的 Q8 量化版本持续推理速度约为 95 tokens/秒。
Liquid AI公布的数据显示LFM2.5-24B-A2B在工具使用类benchmark上击败了Qwen3.6-35B-A3B
对于构建本地Agent任务(如自动化脚本编排、浏览器操作、文件管理),LFM2.5-24B-A2B的速度优势更适合;对于代码辅助任务,Qwen3.6-35B-A3B更合适
LFM2.5-24B-A2B和Qwen3.6-35B-A3B都是开源可本地部署的MoE架构模型,硬件需求在消费级高端设备范围内
LFM2.5-24B-A2B在八项工具使用基准中,在五项上超过了Qwen3.6-35B-A3B。
LFM2.5-24B-A2B 在 Hacker News 上引发了讨论。
2B 级别的激活参数意味着模型在复杂推理、长链条规划上的能力无法与云端大模型正面竞争。
还有 25 条时间轴事件
全部知识事实 (20)
本地AI的核心吸引力在于隐私、低延迟和离线可用性
70%已验证模型权重不能把显存占满,必须为 KV 缓存和推理过程预留空间,128K 上下文所需的 KV 缓存可能高达数 GB 甚至超过模型权重本身
65%待验证LFM2.5-8B-A1B支持128K token的上下文窗口长度
95%待验证LFM2.5-24B-A2B 采用 40 层架构:30 个双门控短卷积块 + 10 个 GQA 注意力层,每 MoE 块 64 个专家,top-4 路由,131,072 token 上下文,128K 词表。
60%待验证对于构建本地Agent任务(如自动化脚本编排、浏览器操作、文件管理),LFM2.5-24B-A2B的速度优势更适合;对于代码辅助任务,Qwen3.6-35B-A3B更合适
50%待验证Liquid AI公布的数据显示LFM2.5-24B-A2B在工具使用类benchmark上击败了Qwen3.6-35B-A3B
50%待验证LFM2.5-24B-A2B和Qwen3.6-35B-A3B都是开源可本地部署的MoE架构模型,硬件需求在消费级高端设备范围内
50%待验证LFM2.5-24B-A2B 的总参数量为 24B,激活参数约为 2B 级别。
50%待验证2B 级别的激活参数意味着模型在复杂推理、长链条规划上的能力无法与云端大模型正面竞争。
50%待验证LFM2.5-24B-A2B 总参数量为 240 亿,采用 MoE 架构,每区块 64 个专家、Top-4 动态路由,每个 token 仅激活 24.5 亿参数。
50%待验证在 Linux/Windows 上可通过 llama.cpp 加载官方 Q4_K_M 量化检查点,并启用层加速(-ngl 99)启动兼容 OpenAI API 格式的本地 HTTP 服务器。
50%待验证Liquid AI 官方建议将本地模型与 RAG 检索系统配对,以弥补静态知识库的规模局限。
50%待验证在 macOS + Apple Silicon 上通过 MLX(mlx-lm>=0.32.0)运行 LFM2.5-24B-A2B,可在 16GB 内存以内达到 150 tokens/秒以上。
50%待验证Liquid AI 的 LFM2.5-24B-A2B 是一个总参数 24B、每 token 仅激活 2.45B 的混合专家(MoE)模型。
50%待验证LFM2.5-24B-A2B 是纯文本推理模型,没有视觉塔,始终以 <think> 块开头,需要图像能力应使用 LFM2.5-VL-3B(LFM2.5 VL 系列最高型号)。
50%待验证LFM2.5-24B-A2B 的 KV 缓存增长速度远低于同深度纯 Transformer,因为只有 10 层是注意力层,长上下文的内存开销显著较低。
50%待验证LFM2.5-24B-A2B 相比上一代 LFM2-24B-A2B 架构未变(40 层、64 专家、top-4、卷积/GQA 混合),主要升级在训练规模、长上下文和推理能力上:上下文从 32K 提升至 131K,词表从 65K 提升至 128K,预训练 token 从 17T 提升至 33T,并新增始终开启的思维链和 5 阶段后训练(以 agentic RL 收尾)。
50%待验证LiquidAI 的 LFM2.5-24B-A2B 用稀疏 MoE 实现 24B 总参数中每 token 仅激活 2B,上下文从 32K 扩展到 131K,在 Apple M5 Max 上跑出 184 tok/s,在单张 NVIDIA B300 上聚合吞吐高达 21K tok/s。
50%待验证48.09 的 LiveClaw 分数反映的是模型在特定智能体评测集上的表现,并不直接等同于通用推理或编程能力。
50%待验证Q4_K_M量化文件大小17.77GB,pp2048速度96.8 tok/s,tg128速度11.4 tok/s
50%