#大模型工程实践

共 2 篇相关文章

Liquid AI发布LFM2.5-8B-A1B模型，采用MoE架构，8B总参数仅激活1.5B，在工具调用场景中媲美6B级模型表现。支持128K上下文、本地部署、多语言，SGLang即时支持。

DeepSeek-V3.2-Exp推理演示中发现RoPE旋转位置编码的交错格式不匹配Bug，Indexer模块与MLA注意力模块的输入格式不一致导致隐性性能退化。本文详解问题根源、技术细节及修复方案。