Nimble
定位轻量、快速响应的本地大模型,设计重点在于低延迟和快速推理,适合对响应速度敏感的场景,可通过Ollama平台调用
时间轴 (近 90 天)
该研究在739封真实的意大利语/英语邮件(231封无偏采样,500封对抗性采样)上比较了九种系统,包括关键词规则、TF-IDF+逻辑回归、本地类型化决策模型(Tev1、Nimble)、托管决策模型(Nimble v4-max)以及托管生成式LLM(Qwen2.5-7B、Gemma 4 26B/31B)。
Nimble 模型在邮件分类任务中预热后耗时 1.7 秒,评分任务耗时 1.336 秒。
把决策节点替换为 Nimble 这类受限输出模型后,接口变成枚举或分数,脚本可以直接分支或比较阈值,无需解析自由文本。
原始素材没有提到 Nimble 是否内置校准,因此实际接入前最好先用已知样本画可靠性图确认概率分布是否可用。
Nimble 是 9B 级别的本地模型。
--ask 模式支持三种提问形态:是/否问题、标签问题、评分问题。
可以通过 `ollama run nimble --ask` 命令以决策模式运行 Nimble 模型。
Ollama 在 0.40.4 版本中引入了实验性功能决策模型 Nimble。
Bespoke Labs 内部评测显示,Nimble 相比 Jev 在实际决策场景中的错误率降低了 43%。
Bespoke Labs 内部评测显示,Nimble 在模型路由决策任务上准确率相比 Jev 提升了 50 个百分点。
还有 23 条时间轴事件
全部知识事实 (20)
该研究在739封真实的意大利语/英语邮件(231封无偏采样,500封对抗性采样)上比较了九种系统,包括关键词规则、TF-IDF+逻辑回归、本地类型化决策模型(Tev1、Nimble)、托管决策模型(Nimble v4-max)以及托管生成式LLM(Qwen2.5-7B、Gemma 4 26B/31B)。
50%待验证Nimble 模型在邮件分类任务中预热后耗时 1.7 秒,评分任务耗时 1.336 秒。
50%待验证原始素材没有提到 Nimble 是否内置校准,因此实际接入前最好先用已知样本画可靠性图确认概率分布是否可用。
50%待验证Nimble 是 9B 级别的本地模型。
50%待验证--ask 模式支持三种提问形态:是/否问题、标签问题、评分问题。
50%待验证把决策节点替换为 Nimble 这类受限输出模型后,接口变成枚举或分数,脚本可以直接分支或比较阈值,无需解析自由文本。
50%待验证可以通过 `ollama run nimble --ask` 命令以决策模式运行 Nimble 模型。
50%待验证Somo是一款拍照上传手写解题过程,由AI找出手写解题过程中第一处出错的行,像老师一样用红笔圈出来,再用英语、斯瓦希里语或西班牙语讲解的数学家教应用。
50%待验证Nimble在实时网络上搜索该考点的历年试卷,优先官方站点。美国学生拿到NY Regents题库,官方站点无结果时再搜开放网络。Nimble找对了坦桑尼亚考试委员会2017至2023年的官方数学试卷和考官报告。
50%待验证PDF类结果只返回约300–700字符的摘要,里面没有题目。Somo将Nimble当作发现器,遇到短PDF结果时下载文件,用pypdf抽取最多20000字符(并行处理五份试卷),再由Gemini挑出一道原文逐字出现、且考查同一考点的题目。
50%待验证所有对Gemini、Gemma、Claude和Nimble的调用都是Sentry span,后台任务各自成事务。每次Gemini到Claude的降级也会抛出warning issue。Sentry设置了send_default_pii=False,不发送学生照片或提示词文本。
50%待验证Jeff模型是Bespoke Labs自研的决策专用模型系列,参数量从0.8B到1.4B,Nimble系列基于Qwen底座微调
50%待验证决策模型中每个问题都是独立打分的,答案不会传给后续问题;请求体限制在64KB以内,Nimble上下文为8192 token
50%待验证使用决策模型需升级到0.3.5或更高版本、拉取Nimble模型、向/decision端点发POST请求;本地请求不需要API Key
50%待验证在Bespoke Labs的流出级评测上,Nimble达到90.12,而其基座模型Qwen 3.5 9B只有66.36
50%待验证Nimble、tev1、clef、clef-flash 等 Decision 类模型开始在 MLX 上提供支持
50%待验证Nimble官方列举的三类典型应用场景为工单分流、模型路由和内容审核
50%待验证Nimble是Ollama官方示例中的一个决策模型,可通过命令 ollama pull nimble 拉取
50%待验证Nimble 定位为轻量、快速响应的模型
50%待验证Nimble(Nimbleway)在网络数据采集领域已有积累
50%