每日AI新鲜事·10月14日午间版：Claude Code状态机与AI任务边界

今天AI圈又有不少新东西. 我刷RSS的时候, 发现几篇挺有意思的文章. 李博, 你今天看了啥? 今天咱们主要聊这么几件. 一是Claude Code的QueryEngine状态机, 二是AI三分钟生成但工作流十八分钟, 三是AI编程套餐限额成了生产依赖, 四是DeepMind帮新加坡防诈骗, 五是三千万美元AI银行没人答对的问题. 深度话题聊两个: AI代理写的Next.js安全漏洞, 还有AI影响收据标准化. 就这些. 嗯, 这几条都挺有嚼头. 那咱们先进新闻速递. 先说第一条, 这个我特别感兴趣, 因为跟我做产品线时候踩过的坑一模一样. 你说的是Claude Code那篇QueryEngine的拆解吧? 我也看了. 这个系列写到第五篇了. 对, 就是dev.to上那个深度拆解. 前四篇讲的是工具声明, 审批, 钩子, 并行调度, 还有停止原因处理和恢复这些单个机制. 重点在第五篇把所有这些拼起来了. 结论很反直觉: Claude Code的核心不是那个大家熟知的五行伪循环. 等一下, 不是一个while循环加工具调用吗? 我印象里所有Agent框架都长这样啊. 这就是关键点. 它实际上是一个显式的状态机. 伪循环只是表象, 真正的QueryEngine主循环把停止原因, 恢复路径, 并行调度都当成状态迁移来处理. 你想想, 如果只是循环, 那工具报错之后怎么恢复? 审批卡住了怎么回到正确位置? 状态机才能把这些边界说清楚. 懂了. 难怪有些Agent一遇到工具失败就彻底跑偏, 原来是状态没设计好. 这条先过, 挺有启发的. 第二条, 这个标题我一看就乐了: AI三分钟生成的, 工作流还是花了十八分钟. 这篇戳中了很多自动化项目的痛点. AI能把某一步做得飞快, 但整个工作流几乎没变. 就是说草稿从二十分钟变三分钟, 但团队审阅还得花八分钟, 后面还有一堆环节. 对, 这就是很多自动化项目让人失望的测量错误. 你只优化了一步, 却拿整条链路的KPI去衡量. 行, 这条记下了. 然后还有一条, 标题挺唬人的: 你的AI编程套餐使用限额, 现在成了生产依赖. 这条说的是, 团队已经把AI编程工具的额度当成基础设施来依赖了. 一旦限额到了, 整个开发流程直接卡住. 这就有点吓人了. 以前是API挂了才叫事故, 现在是套餐限额也能算事故了. 所以那个作者还提到了成本控制基础设施, 就是专门给Agent管钱的. 这个方向现在挺热. 好, 下一条来自DeepMind的博客. 他们和新加坡政府合作, 搞了个新的AI工具来保护公民防诈骗. 这个有意思, 用的是轻量的端侧Gemma模型, 专门在私聊里拦截对话式诈骗, 数据完全不出云. 端侧加零数据外泄, 这两点放在一起挺讲究的. 毕竟聊天记录太敏感了. 对, 如果放到云上做检测, 隐私这关就过不去. 端侧小模型是唯一解. 最后一条, 标题叫那个没人答对的三千万美元问题. 背景是这样: 风投刚往两家AI原生支付公司砸了六千五百万美元. 一家叫Catena Labs, 拿了三千万做AI原生银行. 另一家叫Sapiom, 拿了三千五百万做Agent成本控制. 听着大家都在建银行那一层, 但那个真正的问题没人回答. 对, 而且Circle的联合创始人还在申请全国信托银行牌照. 钱是到位了, 问题是啥还没人说得清. 好了新闻就先聊到这儿, 接下来咱们深入聊聊两个我觉得特别值得展开的话题. 第一个, AI代理在Next.js加Supabase加Stripe这套组合里, 会写出七种安全漏洞. 这篇我必须先抛结论: AI代理特别擅长把应用跑起来, 但特别不擅长把它做安全. 为什么这些漏洞能上线呢? 按理说测试应该能发现啊. 关键就在这. 这些bug全都能通过快速点击测试, 所以它们看起来是好的, 就这么发布了. 你手点一遍根本发现不了. 那作者是怎么验证的? 总不能空口说白话吧. 他自己用Next.js 16, 加Supabase的SSR包, 加Stripe的Node SDK搭了个参考应用. 每个修复片段都是从这个应用里抄出来的, 能直接复制用. 所以这不只是吐槽, 是一份可执行的规则清单. 对. 我觉得这背后是个更大的问题, 安全这件事AI代理现在的训练目标里权重太低了, 它们优化的是能不能跑. 等一下, 那按你这么说, 我们是不是就得在每个AI写的项目后面加一层人工安全审查? 我觉得更现实的做法是把安全规则提前喂给代理, 变成规则而不是事后检查. 那篇文章的标题后半段就是这个意思. 这个我同意. 事前约束比事后补漏便宜太多了. 第二个话题, 标题是个问句: AI影响收据能不能标准化? 这个是从CarbonLayer那边的Impact Receipt概念延伸出来的. 作者的核心观察很锋利. 他说如果只有一家公司能用, 那就是一个产品功能. 如果不同系统能生产和消费同样的信息, 它才有机会变成基础设施. 对, 这就是为什么标准之争总是比产品之争更狠. 你看历史上多少协议就是这么打出来的. 但问题来了, AI的影响怎么量? 这个东西比碳排放难量化多了吧. 这就是它最有意思也最危险的地方. 碳排放有物理单位, AI影响没有. 谁来定义指标, 谁就定义了整个市场. 那你是乐观还是悲观? 我偏乐观. 因为这类收据的真正价值不是打分, 是让供应链上下游能对账. 能对账就能交易. 所以总结一下就是, AI影响收据能不能标准化, 关键不在技术, 在有没有足够多的系统愿意用同一套格式读写. 对, 这是基础设施的经典门槛. 一个公司叫功能, 多个系统叫标准, 多个行业叫基础设施. 行, 今天两个深度话题都聊得挺透. 新闻速递加深度解读, 差不多就到这了. 李博, 下午你还看啥? 我可能把那个Claude Code状态机系列再翻一遍, 感觉能挖出点东西. 好, 那今天就到这儿. 晚上见.