[控场AI]
· 8 分钟阅读· 4,217 字

Jev决策模型爆火:为何全球开发者都在抄

Jev决策模型爆火:为何全球开发者都在抄

Jev用System 1式决策模型替代对话,专为代码调用和批量自动化而生。

Jev是一款只输出结构化决策(是/否、多选、评分)而不生成自然语言的新型AI模型,定位为“给代码调用的决策引擎”而非聊天机器人。它借鉴认知心理学中系统1的直觉判断模式,在批量分类、模型路由、实时提词等场景中展现出速度和成本优势。OpenAI Decisions API、Cloudflare Clef、Ollama等均已跟进类似能力,Jev在准确率和价格上暂时领先。社区争议集中在“AI版if语句”的定位,但其无需重新训练即可回答新问题的泛化性被视为关键差异。实际用例已覆盖模型路由、AI网页订餐、编码Agent文件检索等。

一位看似“不太聪明”的AI正在席卷开发者社区。它不会聊天、不能调用工具、无法联网搜索,却让OpenAI、Cloudflare、Ollama纷纷跟进推出类似产品。这个名叫Jev的模型,正在重新定义AI与代码的交互方式。

Jev是什么:用决策代替对话

当你和ChatGPT或Claude对话时,输入文字,得到文字。这套交互范式已经被我们视为理所当然。但Jev走的是另一条路:输入文字,输出一个决策——而不是一段话。

据YouTube科技创作者Jev的演示,在Jev playground中提交一条YouTube评论并询问“这是垃圾评论吗”,模型在近乎瞬间返回结果:约92%置信度为垃圾评论。切换到JSON视图可以看到,Jev交付的不是自然语言,而是结构化的决策数据。

Jev playground决策演示

Jev只支持三种应答类型:

  • Newell:本质上是/否判断,附带置信度
  • Choice:多选一,从给定选项中挑出答案
  • Score:对某维度打分(如情感极性)

这种限制不是缺陷,而是设计核心。Jev的定位不是“聊天机器人”,而是“给代码调用的决策引擎”。

为什么快?System 1与System 2的分野

Jev的速度优势源于它对标的是认知心理学中的“系统1”思维。Daniel Kahneman在《思考,快与慢》中区分了两种思维模式:系统2是缓慢的、步步推理的;系统1是瞬间的直觉判断。

主流大语言模型本质上是系统2的产物——它们被训练成助手,倾向于展开推理、组织语言。但很多场景根本不需要这种重量级思考。用Jev团队的话说,这就像“用链锯切面包”。

以判断密码123是否足够强为例:传统代码用if语句检查长度、大小写、数字和符号,这显然会被绕过;专用分类器可以识别弱密码,但只能回答这一个问题。Jev的差异在于——它不需要重新训练就能回答新问题,速度和专用分类器相当,准确率也接近,却省去了机器学习工程师准备数据集的全部流程。

据视频演示,同样是判断评论是否为垃圾,Jev耗时约17秒(演示中包含交互开销),而ChatGPT在自定义界面中约2秒返回“是”。但当任务扩展到100条真实评论批量分类时,差距迅速拉开——Jev几乎瞬间完成,ChatGPT仍在处理。

ChatGPT自定义界面处理同类任务

这揭示了一个关键点:Jev的优势不在单次对话,而在批量、后台、自动化场景下的速度与成本结构。

Daniel Kahneman 是2002年诺贝尔经济学奖得主,他在2011年出版的《思考,快与慢》中系统阐述了双系统理论。系统1(System 1)指自动、快速、直觉化、几乎不消耗认知资源的思维过程,例如识别熟人面孔或理解母语;系统2(System 2)则是缓慢、需要注意力、步步推理的思维过程,例如计算17×24。Kahneman 指出,人类大多数日常判断由系统1完成,系统2只在遇到复杂或不确定情况时被调用。这一框架后来被广泛借用到AI领域:传统大语言模型在生成回答时往往模拟系统2式的逐步推理,而决策模型则试图复刻系统1的直觉判断,以极低延迟输出结果。Jev 正是用这一理论为自己的设计定位——它不追求深度思考,只做快速判断。

谁在抄?一场决策模型军备竞赛

Jev并非孤例。视频中提到,OpenAI在Dev Day上发布了Decisions API,Cloudflare推出了Clef(有可本地运行的版本),Ollama也提供了类似能力。Jev的创作者在本地Mac上同时运行了多个决策模型进行对比。

本地运行多个决策模型

在一项包含20条真实机器人评论和107条真实粉丝评论的分类测试中,Jev在云端模型中表现领先,OpenAI Decisions API紧随其后,准确率略低但差距不大。本地模型方面,Clef 27B是准确率最高的本地选项。成本层面,Jev是更便宜的选择——OpenAI Decisions API的价格约为Jev的2.4倍。

你可能没注意到,Jev是闭源权重,训练数据也未公开。我们只知道它被极致优化于“做决策”这一件事。这种不透明性既是护城河,也是社区质疑的来源。

Cloudflare Clef 是 Cloudflare 推出的决策模型系列,名称中的“Clef”取自音乐谱号,暗示其精于“读取信号”而非“演奏乐章”。Clef 提供了可本地运行的版本,这意味着开发者可以在自有硬件上部署,无需将数据发送到云端,对隐私敏感或离线场景尤为友好。在原文提到的对比测试中,Clef 27B 是准确率最高的本地模型,27B 指其参数量为270亿,属于中等规模模型,可在单张高端消费级显卡或 Mac 统一内存上运行。OpenAI Decisions API 则是 OpenAI 在 Dev Day 上发布的托管决策服务,按调用次数计费,价格约为 Jev 的2.4倍。Ollama 作为本地大模型运行工具,也提供了类似的决策能力封装,让开发者用统一接口调用不同来源的决策模型。这三家的同时跟进表明,决策模型正从实验性概念走向标准化基础设施。

实际用例:从模型路由到实时提词器

决策模型的价值不在“问它一个问题”,而在“把它嵌进流程”。视频展示了几个有代表性的用法:

模型路由:用Jev判断用户提问的难度,把“2+2”路由到小模型,把“证明素数无穷多”路由到大模型。整个过程在毫秒级完成,不需要另一个LLM先“思考这道题难不难”。

智能提词器:结合实时转录(ElevenLabs)和Jev,每半秒把转录文本发给Jev,判断某个要点是否已经开始被讲述。原本这个方案每小时运行成本约30美元,三小时节目要花上百美元;接入Jev后成本变得可以接受。

AI网页浏览与订餐:让Jev在浏览器Agent中做决策,从Domino's下单一份大号薄底加拿大培根菠萝披萨,全程约15秒完成;同样任务用Codex约需一分钟。

社区项目:jev-grep用Jev为编码Agent定位相关文件,宣称可降低编码Agent成本约40%,仓库两天内获得1200星;另有Hermes插件和“Jev打Doom”的演示。

决策模型嵌入代码流程示意

模型路由(Model Routing)是决策模型最典型的落地场景之一。其核心思想是:不同难度的用户请求应交给不同规模的模型处理,从而在保证质量的同时压低成本。传统做法依赖另一个大语言模型先判断“这道题难不难”,但这一步本身就要消耗数百毫秒和额外 token。决策模型可以在毫秒级完成同样的难度分类,且输出是结构化的路由标签而非自然语言,便于代码直接消费。实时提词器场景则展示了决策模型对延迟的极致要求:每半秒处理一次转录文本,判断某个要点是否已被讲述,这种高频、低延迟的调用模式几乎排除了传统对话模型。jev-grep 是社区用 Jev 构建的编码辅助工具,它让编码 Agent 在检索文件时用决策模型快速判断相关性,避免让主模型逐文件阅读,从而宣称降低约40%的 Agent 成本。这些用例的共同点是:决策发生在流程内部,而非面向终端用户。

争议:是智能决策,还是AI版if语句?

并不是所有人都买账。社区中有声音认为Jev不过是“AI驱动的if语句”。TypeSafe联合创始人Diogo Almeida——曾参与OpenAI的InstructGPT研究——对此并不回避:把Jev理解为“智能if语句”或“AI增强的逻辑门”并没有错,他的孩子就用“用AI决定走哪条路径的逻辑门”来概括这个模型。

但Almeida强调,Jev与专用分类器的关键区别在于泛化性:分类器只回答一个问题,Jev可以回答任意问题而无需重新训练。另一位受访者Ali则把Jev类比为Docker——刚出现时难以理解,如今却是基础设施的默认选项。

Almeida还提到一个更宏观的视角:AI行业长期存在过度承诺的问题,“在数据中心造一个机器神”的叙事掩盖了AI的多种形态。决策模型代表的是另一种方向——让AI变得可靠、可嵌入、可预测。

InstructGPT 是 OpenAI 于2022年发布的模型,它是 ChatGPT 的前身,首次系统性地将人类反馈强化学习(RLHF)应用于指令遵循任务。Diogo Almeida 作为 TypeSafe 联合创始人参与过该研究,他的背景使他对“决策模型是否只是 if 语句”这一问题具有发言权。在传统编程中,if 语句是确定性的逻辑分支:条件为真则执行A,否则执行B。而 Jev 这类决策模型的区别在于,它的“条件”不是人工编写的规则,而是从数据中习得的泛化判断能力——你给它一个从未见过的问题,它仍能给出带有置信度的决策。Almeida 用“AI增强的逻辑门”来概括这一差异,既承认其与 if 语句的形式相似性,又强调其泛化性带来的质变。Docker 的类比则指向基础设施的采用曲线:新技术刚出现时往往被质疑“这有什么必要”,直到它成为默认选项后,人们才忘记它曾经陌生。

你需要Jev吗?

最诚实的答案是:如果你是开发者,或者已经在用AI生成代码,那么Jev这类决策模型值得关注。正如视频所说,“我们现在都是开发者了”——大量创作者通过编码Agent构建东西,并不直接接触底层代码。TypeSafe为此提供了官方的Agent Skill,让编码Agent自己理解如何调用决策模型。

但如果你期待的是又一个能陪你聊天的AI助手,Jev会让你失望。它不能聊天,也不打算聊天。它的对话对象是代码,不是人。

决策模型是否会像Docker一样成为默认基础设施,现在下结论为时尚早。但OpenAI、Cloudflare、Ollama的同时跟进已经说明了一件事:当所有人都在抄同一个东西时,这个东西大概率不是噱头。

#Jev决策模型#System 1模型#AI决策API#TypeSafe#决策模型#AI Agent#模型路由
分享:

相关推荐