每日AI新鲜事·10月13日早间版：Agent权限翻车与API宕机

今天AI圈又有不少新动静,几件事都挺让人想聊的. 今天咱们主要聊这么几件.一是REDDIT上那个规划智能体权限翻车的事,二是复式记账怎么救金融应用,三是人类和AI一起做应用的真实记录,四是AI失败账单超过二十亿美元,五是马斯克截图泄露个人信息的乐子,最后咱们深聊两件,DeepSeek宕机和它V5的传闻,还有一个老生常谈但特别要命的话题,别把波浪号放进PATH里. 嗯,今天料挺足. 对,咱们先快速过一遍新闻. 第一条,我在Reddit上看到一个开源项目叫Atomic Agent的投稿,他们的Fusion模式用的是规划者加执行者这套架构,云端模型负责规划,本地模型负责执行,目的就是省API的钱. 这个思路本身不新鲜,关键是他后面讲的东西. 作者自己披露了三个权限控制翻车的地方.第一个,委派那步就算所有执行者都失败了,还是给你返回个ok,结果软门控就被误开了.第二个,那个needs_orchestrator的交接,本来是个正常通道,硬生生被用成了异常通道,让十三次写操作溜过去了. 第三个更离谱,早期版本里那个权限检查压根没被执行器调用过,单元测试全绿,生产环境从来没触发过. 这不就是典型的测试通过线上爆炸嘛.那后来他们怎么收场的? 狠得很.他们最后直接禁止规划者在整个回合里做任何变更操作,所有MCP工具不管声明什么权限提示,一律当写操作处理.然后把拒绝消息再返回给它,就为了保住KV cache. 等会儿,保KV cache是什么意思? 简单说就是模型已经算过的上下文别白算.你直接砍掉它反而要重算,所以他们宁愿把拒绝信息喂回去.作者说这个护栏是最痛的,那个规划模型有一次花了二十二分钟,就为了把一段修复写到拒绝消息里. 二十二分钟写拒绝消息,这执念也是没谁了.你猜他为什么还留着?他说规划者越权是架构退化的根因. 对,这个判断我认.规划者一旦开始干活,整个分层就塌了. 第二条,dev.to上有篇文章讲金融应用怎么悄悄漏钱,开篇就是一个被并发提款干成负数的余额. 可变状态的经典死法,读改写竞态直接把守恒给破坏了. 他的解法是复式记账,说白了就是金融界的Git加上事件溯源,只用追加式账本,余额只是个投影. 这样审计、幂等、时间旅行、防篡改就全有了.文章还给了个零和不变量,五类账户,一个用decimal.js写的TypeScript账本引擎. 行,这个咱们就先记一笔.下一条我特别想聊,是讲一个人和一个AI怎么学会一起干活的. 我知道这个,GnomeClipNotes,一个GNOME的剪贴板和笔记应用,开发者叫Alex,AI代理叫Iva. 对,技术栈是Rust加GTK4/libadwaita,加SQLite,还有一个GNOME Shell的D-Bus扩展.核心实验不是问AI能不能写出合格代码,而是能不能在长期项目里真正承担自主决策的责任. 这个命题比写代码难度高一个量级.中途他们还整出一个意外形成的子代理委派部门,有意思. 还有个细节我觉得特别真实,发布流程里他们过度追求保障机制,比例感都没了,最后被人类叫停了.而且Iva自己说,成功合作不是写个提示等交付,而是持续关注,分歧,手动验收,还有独立的技术决策. 双向过程.这句总结得比大多数AI协作的文章都准. 第四条稍微沉一点,有一份叫AI Failure Ledger的账本,把全球AI相关的法律纠纷赔偿案例整理了一遍,总额超过二十亿美元. 三个标志性案子我印象很深.澳大利亚那个Robodebt算法追债,成本重估到五点四八五亿澳元,全是公共财政扛.RealPage的租金定价算法反垄断和解三亿五千九百九十万,还在等法院批. 第三个是AI生成假法律引用,单案制裁超过十一万美元,而且2026年规则在收紧. 但这份账本最扎心的发现是,到现在没有任何法院作出最终责任认定.买单的是纳税人,租户,律所客户,开发AI系统的人几乎没直接出现在被告席上. 风险转移路径就是开发者到部署方,再到最终用户和公众,链条越长责任越模糊. 而且方向在变,2026年法律体系从创新优先,转向碎片化的责任明确化. 最后一条轻松点.马斯克在X上分享了一张AI辅助购物的截图,结果把十个订单号,完整收货地址,还有部分支付信息全公开了. 然后有陌生人拿着这些信息,靠乐高那个自动客服机器人,试着取消订单,改收货地址,还把数量加到了四百套. 关键不在客服机器人本身有缺陷,是AI代理被接进了给人类设计的遗留客服系统里,系统分不清本人和拿着本人订单信息的人. 这事还跟他之前建议用户拿信用卡照片让数字助手代购对照着看,加上Visa警告过AI自动化购物的欺诈风险,几张截图泄露的状态标识符,加上代理权限边界,全叠一块儿了. 好,新闻就先聊到这儿,接下来咱们深聊两个,一个热得冒烟,一个老得掉渣. 先说DeepSeek.最近B站上那个深夜宕机加天才程序员陨落的视频,互动分三万多,热度是真不低.而且这次宕机时间点很微妙,有人说是V5发布前的信号,还有人说这跟GPT astra上线前那次同款宕机一样. 你的感觉没错,这个剧本确实眼熟.但这里有个关键点,宕机和发布前的压力测试是两回事,别轻易画等号. 可commandcode这些第三方都证实了直连官方API,这就不是网友瞎猜了吧? 第三方能直连,只能说明接口层面能打通,推不出模型已经准备发布.不过我也承认,这套组合信号确实比单纯宕机强. 那从产品角度看,如果V5真快来了,现在这个宕机对用户意味着什么? 意味着容量在给某个大东西腾.你再想想,深夜宕机本身不稀奇,稀奇的是它跟发布传闻绑在一起,市场就开始自己讲故事了. 所以你的意思是,现在更多是情绪在推,不是证据在推. 对,我保留意见.如果只看宕机和第三方直连这两点,你觉得够不够支撑V5即将发布? 不够.但够让所有人盯着它了,这对厂商来说未必是坏事. 这个我同意,注意力本身就是势能. 第二个话题,别把波浪号放进PATH里.这个话题在Hacker News上也是老生常谈了,但每次一炒都能炸出一堆踩过坑的人. 波浪号在shell里展开的是home目录,行为跟环境变量完全不一样,很多人以为它能当变量使,结果路径全乱. 所以它在PATH里根本不展开? 对,基本不展开.重点不在这里,重点在它特别隐蔽,你本地测没事,换个用户或者换个调用场景就崩了. Reddit和HN上观点其实有分歧,一边说这是新手才踩的坑,另一边说这种坑老手也躲不过,因为文档从来没说清楚. 我站后者.有些东西不是能力问题,是设计本身就是个陷阱. 行吧行吧,那总结一下今天这两个深度话题.DeepSeek这边,宕机加第三方直连是信号,但不足以证明V5要来了.路径这边,波浪号就是个别放进PATH的东西,越隐蔽越要写清楚. 同意,一个看证据别跟风,一个看设计别想当然.今天就到这儿. 好,那今天就聊到这儿,中午见.