决策模型
由Maggie Appleton提出的AI模型新范式概念,指接受文本输入但输出结构化概率决策(而非文本)的模型类型,适用于分类、评分、排序等决策任务
核心事实
时间轴 (近 90 天)
决策模型的模型卡中并未包含偏见测量。
两个模型在缺乏线索的情况下被迫猜测儿童性别时,默认选择“女孩”。
六个模型中有五个对女性给出了显著更有利的答案,对数几率差异在+0.05到+0.10之间。
研究发现决策层面和概率层面的测量结果存在差异,审计模型时应像应用程序一样读取模型输出,即关注首选答案而非仅仅概率分布。
所有六个模型都认为,为了更大的利益而使用暴力,对男性比对女性更可接受。
研究测试了TypeSafe的闭源Jev模型以及五个开源决策模型,任务涉及性别互换的是/否决策。
性别互换导致1%到3.5%的首选答案发生变化,其中Jev的部分变化源于其调用间的波动。
nobodywho项目推出了决策模型(Decision Models),该模型不生成token,而是直接对候选答案打分,返回每个选项的概率和置信度。
目前决策模型仅支持本地运行,模型体积449 MB对于资源受限的环境可能仍有压力。
Semantic Router 的改进方向中,“更快”涉及缓存、批处理或更轻量的嵌入模型,“可扩展”和“与决策模型集成”则关系到路由规则的组织方式以及如何把路由结果交给下游决策模型使用。
还有 40 条时间轴事件
全部知识事实 (20)
推理模型在需要多步逻辑推导的信息综合任务中表现更优,但延迟更高,需根据任务特性合理选用
90%已验证决策模型是一类区别于生成式语言模型的专用架构,核心目标是对给定输入输出结构化判断结果而非生成自然语言文本
75%已验证决策型模型擅长分类、路由、判断这类结构化任务,而非长篇文本生成
75%已验证决策模型不生成文本,而是给定输入状态和一组命名问题,在一次前向传播中返回带概率的类型化答案。
65%已验证决策模型的输出往往是有限动作集合中的一个标签或概率分布,类似于强化学习中的策略网络,而生成模型需要在巨大词汇表上进行自回归采样
65%已验证判断型决策模型的输出是封闭的结构化结果,本质上是一次前向传播的分类或回归任务,不存在自回归迭代开销
65%已验证小型决策模型可作为大模型系统中的前置调度器或决策节点,在Agent工作流和多模型编排架构中扮演关键角色
65%部分验证决策模型(Decision Model)针对内容返回一个概率或分类结果,而非输出长段文字,其结构化输出可直接用于代码的 if 判断
65%待验证云端推理需要经历网络往返(请求上行、服务器排队、模型计算、结果下行),每一步都会引入延迟
60%待验证当控制层比模型推理更难维护时,本身就是应该将决策权放给模型的信号
60%待验证任务范围更窄的子智能体所需的上下文窗口更小,直接降低了推理成本并减少了上下文污染导致的错误率
60%待验证低延迟与高质量推理往往难以兼得,前后台分离架构通过任务分级路由解决这一矛盾
60%待验证六个模型中有五个对女性给出了显著更有利的答案,对数几率差异在+0.05到+0.10之间。
50%待验证研究测试了TypeSafe的闭源Jev模型以及五个开源决策模型,任务涉及性别互换的是/否决策。
50%待验证性别互换导致1%到3.5%的首选答案发生变化,其中Jev的部分变化源于其调用间的波动。
50%待验证所有六个模型都认为,为了更大的利益而使用暴力,对男性比对女性更可接受。
50%待验证两个模型在缺乏线索的情况下被迫猜测儿童性别时,默认选择“女孩”。
50%待验证决策模型的模型卡中并未包含偏见测量。
50%待验证研究发现决策层面和概率层面的测量结果存在差异,审计模型时应像应用程序一样读取模型输出,即关注首选答案而非仅仅概率分布。
50%待验证nobodywho项目推出了决策模型(Decision Models),该模型不生成token,而是直接对候选答案打分,返回每个选项的概率和置信度。
50%