微软Decision-1：为AI智能体决策打分的专用小模型

微软发布了一款名为 Microsoft-Decision-1 的小型语言模型，它不生成文本、也不进行复杂推理，而是专门做一件事：为你交给它的一组选项，逐个返回校准过的概率分数。这个看似狭窄的能力，恰好击中了AI智能体（Agent）工程中一个被长期忽视的痛点——每一步决策的速度与成本。

微软在Foundry里发布了什么

根据微软官方发布说明，Decision-1 是一款为狭窄任务打造的模型。微软首席技术官办公室副总裁 Achint Srivastava 这样描述它的定位：“与被设计用来生成文本或推理复杂问题的大语言模型不同，决策模型专门用于交付软件可以立即执行的结构化输出。”该模型已在 Microsoft Foundry 中上线，并计划通过 OpenRouter 提供访问。

它的运作方式决定了它的用途。给定一组固定的候选答案，Decision-1 为每个选项返回一个校准过的概率分数——这意味着应用层掌握阈值，模型层负责打分。无论是给客服工单做路由分发、按评分标准检查某个工具调用是否合规，还是给AI生成的回答打分，本质上都归结为同一次调用：一个场景、一个封闭选项列表，以及列表中每个选项对应的一个数字。

这项工作比聊天模型小得多，微软也据此定价。据 Windows Report 记录，其费率为每百万输入 token 0.042 美元，输出 token 免费。这个低价改变了很多场景的成本算术：一个每月要给20万条入站消息打分的客服系统，按此费率输入 token 成本不到9美元——这把许多团队出于成本考虑而放弃的检查，变成了可以逐条执行的常规操作。

**校准概率（Calibrated Probability）**是区分Decision-1与普通分类模型的关键特性。一个"校准过"的模型意味着它输出的置信度与实际准确率在统计上对齐：如果模型对一批预测的置信度均为80%，那么这批预测中真正正确的比例也应接近80%。许多大语言模型存在过度自信的问题——输出90%置信度，但实际准确率只有70%。校准差的模型会迫使工程团队凭经验反复调整阈值，而校准好的模型则允许直接用分数作为业务逻辑的触发器，比如"低于70%就转人工"。这也是微软在发布说明中将校准单独列为五大工程难题之一的原因——它不是锦上添花，而是专用打分模型能否在生产中实际可用的前提。

打分模型如何与生成模型协同

在生产级智能体中，一个已经常见的模式是：在昂贵的“写手”旁边放一个廉价的“裁判”。大模型负责起草，小模型负责回答一个有边界的问题——下一步该做什么。

微软在发布说明中给出了设置“第二个座位”的理由，一个无需跑分就能理解的延迟案例：“举例来说，给20个连续决策中的每一个各增加100毫秒，整个工作流就会多出两秒。”在客服或财务工作流中，智能体恰恰要做这么多相互依赖的决策，而每一步都继承了背后模型的延迟。

这背后还有一层微软没有点破的成本逻辑：一个通用模型被要求对固定列表打分时，仍然要为它一路产出的推理文本付费，而这正是专用打分模型所去除的成本。决策模型的工程价值，就在于从一个“没人会读输出”的步骤中剥离掉文本生成。

微软列出的五个工程难题

发布说明按团队实际会遇到的顺序列出了难点，这份清单读起来像是一份面向同类建设者的技术规格书：速度、可泛化的质量、鲁棒性、校准、安全。

可泛化的质量

跨未见任务的质量是五者中最难“买到”的。微软描述了它的论证方法：数十个在训练中保持盲测的基准，覆盖路由、排序、长上下文、多语言和分布外任务，另外还有来自 JevBench 排行榜的一批顶级公开模型，在36个额外基准上进行对比。微软报告称在这项覆盖近15万道题的36基准对比中取得最高准确率，并声称 P50 延迟比 GPT-6 Sol 快约35倍。

鲁棒性与校准

鲁棒性给出了一个可复现的数字。发布说明称：“Microsoft-Decision-1 在平均1.3%的扰动上会改变其决策，而当选项描述被改写、或选项被反转或打乱时为零次翻转。”对于任何要设置升级阈值的人来说，这个比率才是关键。微软用运营术语框定了校准目标：“应用使用置信度来决定何时行动、延后或请求人工复核，所以一个90%的预测在有代表性的样本上应当大约十次里对九次。”

微软公布的内部实测

厂商跑分描述的是排行榜上的模型，而内部部署描述的是工作流中的模型——这是另一种证据，微软公布了四个这类案例。

据发布说明，Xbox 研究团队用 Decision-1 处理了来自问卷、Steam、Twitter/X 的超过10,000条开放式反馈与评论，将其归入研究人员设定的固定主题集，团队发现该模型“在质量上与 GPT-6 Sol 相当，同时运行速度快14倍以上、成本低200倍”。Copilot 团队在衡量聊天和智能体响应质量时发现它“与 GPT5.6 Luna 相当且快100倍”。值班工程师用它在实时事故中做知识检索。Microsoft Discovery 则用它在自适应重规划循环中给实验打分，报告称模型评分“比基于LLM的评分一致性高46倍，速度快3倍”。

把这四个案例放在一起看，会发现一个值得借鉴的模式：每个内部案例都有一组先于模型存在的固定标签——研究人员选定的主题、质量评分标准、相关性判断。模型负责分类，而类别的含义由别人决定。

为你自己的工单设计测试计划

微软没有公布部署流程，评估工作留给了采购方。好在这个计划短到一周内就能跑完。

挑一个有真实成本的狭窄任务：客服队列的分流、客户反馈的分类，或者按评分标准对AI草稿做通过/不通过的判定。构建一个几百条你自己案例的标注集——厂商基准描述的是它们的边界情况，而你的工单带着你自己的。用新模型跑这些案例，与当前的处理方式在同一数据集上对比准确率、延迟和成本。

然后按方向而非平均值来读错误。一个错误的“继续”和一个错误的“升级”是价格不同的两类事件，而基于总体准确率设定的阈值会掩盖这种不对称。改写同样的输入，观察决策翻转的频率——厂商1.3%的数字是一个待复现的目标，而非一个可以假设的事实。在你自己的数据出现之前，让人工把关那些有后果的操作，并把每一次打分与它所预测的结果记录在一起，因为这份日志会成为下一次决策所依赖的校准数据。

定价与“换基座”路径

两个发布细节影响着规划。第一是价格——每百万输入 token 0.042 美元、输出免费——给一个在每条消息或每次工具调用上都运行的检查设定了可控成本。第二是基座模型：微软声明它基于 Qwen3.5-9B 做后训练来完成这项任务，并将很快把模型迁移（rebase）到其他系统上，包括 Microsoft AI 和 OpenAI 的模型。

换基座本质上是“披着版本号外衣的行为变更”。当底层模型改变时，此前调好的阈值所对应的分数可能会移动。所以一个记录了阈值的团队，也应当同时记录这些阈值所属的模型版本。这个习惯不花成本，却保护了决策模型必须守住的东西：一个分数的含义在不同版本间保持一致。

微软把一个廉价、校准过的分数放在了智能体选择下一步动作的位置，并在能让高频检查变得负担得起的价格旁，公布了自家测试的数字。留给采购方的工作很小也很具体：你的案例、你的基线、你的阈值，以及记录在它们旁边的模型版本——这就是“图纸里的打分模型”与“生产中的打分模型”之间的全部差别。

背景补充

**后训练（Post-training）**是指在一个已预训练好的基础模型之上，通过有监督微调（SFT）、强化学习（RLHF/RLAIF）或其他对齐技术，将模型行为向特定任务方向收窄的过程。微软选择Qwen3.5-9B作为起点，意味着Decision-1继承了该基础模型的语言理解能力，但被专门优化成只输出结构化概率分布，而不再生成自由文本。"换基座"（rebase）则是将同一套后训练流程迁移到新的基础模型上，以获得更好的底层能力或对齐更新版本。这个过程必然会导致模型在同一输入上输出的分数数值发生漂移，因此跟踪模型版本号与阈值的对应关系，并非可选的工程卫生习惯，而是维持决策系统可预期行为的最低要求。