Ollama v0.40.15预发布：CUDA库进程内加载与MiMo V2.6模型支持

一次以底层基建为主的小版本迭代

Ollama 发布了 v0.40.15 预发布版本（tag 为 v0.40.15-rc2），提交记录显示这次更新只包含两个功能性改动：Linux 下 MLX 后端改为在进程内加载打包的 CUDA 库，以及新增 MiMo V2.6 模型支持。改动数量少，但指向的方向很明确——持续降低本地推理的环境依赖门槛，同时扩大可开箱即用的模型清单。

从版本号与提交标签看，这仍处于 RC（Release Candidate）阶段，属于正式版发布前的验证节点，普通用户若追求稳定可以等待正式版本。

Linux 上的 MLX 与 CUDA：把库加载收进进程内

这次最值得关注的技术改动，是由贡献者 dhiltgen 提交的「mlx: load bundled CUDA libraries in-process on Linux」（#19433）。

此前在 Linux 上使用 MLX 相关能力时，CUDA 库的发现与加载往往依赖系统环境，用户容易遇到库路径不匹配、版本冲突或找不到动态库的问题。改为在进程内加载随包分发的 CUDA 库后，运行时不再完全依赖宿主机的 CUDA 安装状态，配置成本随之下降。

这类改动的价值不在功能层面，而在部署体验层面。对在 Linux 服务器或开发机上跑本地推理的开发者来说，「装好就能用」比多一个特性更有吸引力。它也让发行包的自包含程度更高，减少因环境差异导致的不可复现问题。

MLX 是 Apple 推出的开源机器学习数组框架，最初为 Apple Silicon 的 Metal 后端设计，用于在本地高效完成模型推理与训练。它并非只绑定 macOS：社区与官方逐步扩展了其他平台的支持，其中在 Linux 上运行时就涉及到对 GPU 算力的调用。CUDA 则是 NVIDIA 的 GPU 并行计算平台与编程接口，MLX 在 Linux 上如果需要利用 NVIDIA 显卡，就必须通过 CUDA 库（如 cuBLAS、cuDNN、NCCL 等）完成底层计算。

所谓“进程内加载”，是指程序在自身运行时直接加载并链接这些随发行包分发的 CUDA 动态库，而不是依赖操作系统的动态链接器从系统全局路径（如 /usr/lib、LD_LIBRARY_PATH 指定的位置）查找。PyTorch、ONNX Runtime 等生态中的多款推理框架都曾采用或演进到类似策略，目的是让发行包自包含、避免不同机器上库版本不一致引发的运行时错误。

MiMo V2.6 模型支持

第二个改动是新增 MiMo V2.6 模型支持（#19400），同样由 dhiltgen 提交。模型进入官方支持列表，意味着用户可以直接通过 Ollama 拉取并运行，而不必自行处理格式转换与推理适配。

从节奏上看，Ollama 对新模型的跟进相当快，这已经成为它作为本地推理入口的核心竞争力之一：模型侧的新进展能较快转化为终端用户可执行的一条命令。

Ollama 对模型的支持并非“任意模型文件拿来即用”，官方支持列表内的模型通常意味着：模型权重被转换为 Ollama 的 Modelfile 与 GGUF 等分块格式，配套的提示模板、分词器行为、上下文长度与量化选项均被验证可用，并可通过 ollama run 模型名 直接拉取。模型一旦进入官方清单，用户就能规避自行下载权重、处理格式转换、调试 chat template 这一整套流程。

值得注意的是，模型版本号中的小版本迭代（如从 V2 到 V2.6）在官方支持中往往需要同步更新分词器配置与量化支持，工作量不只在“加一行名字”，因此小版本模型的支持也需要独立的适配与验证提交。快速跟进模型侧新发布，是本地推理工具争夺开发者入口的关键。

预发布版本该怎么看

该版本标记为 Pre-release，完整变更对比为 v0.40.14...v0.40.15-rc0。社区反馈上，该发布页获得了十余个点赞与少量火箭表情，说明关注度存在但并非大版本级别的热度。

对生产环境而言，建议等 RC 验证结束、正式版落地后再升级；对希望提前验证 CUDA 库加载行为或 MiMo V2.6 表现的开发者，则可以先在隔离环境中试用，重点观察多卡、容器化以及不同 CUDA 驱动版本下的表现差异。

RC（Release Candidate，发布候选）是软件发布流程中的一个阶段：功能已经冻结，剩余工作集中在修复阻塞性问题与验证稳定性，最终从若干 RC 中挑选出正式版。rc2 表示这是第二个候选版本，说明 rc1 之后仍有需要修正的问题。对开源项目而言，预发布版本通常不会推送到 stable 更新通道，包管理器或自动升级未必会拉取，用户需要主动指定版本或 tag 才能安装。

此外，变更对比范围 v0.40.14...v0.40.15-rc0 以 rc0 为终点，意味着 rc1、rc2 中后续的修补可能未完全体现在该对比里，评估时最好以各 RC 对应 tag 的提交记录为准。

小结

v0.40.15 是一次典型的「小步快跑」式更新：一条修环境、一条加模型。它不改变 Ollama 的产品定位，但继续夯实了本地推理工具最关键的 two 件事——少折腾环境，多支持模型。