每日AI新鲜事·10月13日早间版：Agent权限翻车与API宕机

今天AI圈又有不少新动静,几件事都挺让人想聊的.

今天咱们主要聊这么几件.一是REDDIT上那个规划智能体权限翻车的事,二是复式记账怎么救金融应用,三是人类和AI一起做应用的真实记录,四是AI失败账单超过二十亿美元,五是马斯克截图泄露个人信息的乐子,最后咱们深聊两件,DeepSeek^广告宕机和它V5的传闻,还有一个老生常谈但特别要命的话题,别把波浪号放进PATH里.

嗯,今天料挺足.

对,咱们先快速过一遍新闻.

第一条,我在Reddit上看到一个开源项目叫Atomic Agent的投稿,他们的Fusion模式用的是规划者加执行者这套架构,云端模型负责规划,本地模型负责执行,目的就是省API的钱.

这个思路本身不新鲜,关键是他后面讲的东西.

作者自己披露了三个权限控制翻车的地方.第一个,委派那步就算所有执行者都失败了,还是给你返回个ok,结果软门控就被误开了.第二个,那个needs_orchestrator的交接,本来是个正常通道,硬生生被用成了异常通道,让十三次写操作溜过去了.

第三个更离谱,早期版本里那个权限检查压根没被执行器调用过,单元测试全绿,生产环境从来没触发过.

这不就是典型的测试通过线上爆炸嘛.那后来他们怎么收场的?

狠得很.他们最后直接禁止规划者在整个回合里做任何变更操作,所有MCP工具不管声明什么权限提示,一律当写操作处理.然后把拒绝消息再返回给它,就为了保住KV cache.

等会儿,保KV cache是什么意思?

简单说就是模型已经算过的上下文别白算.你直接砍掉它反而要重算,所以他们宁愿把拒绝信息喂回去.作者说这个护栏是最痛的,那个规划模型有一次花了二十二分钟,就为了把一段修复写到拒绝消息里.

二十二分钟写拒绝消息,这执念也是没谁了.你猜他为什么还留着?他说规划者越权是架构退化的根因.

对,这个判断我认.规划者一旦开始干活,整个分层就塌了.

第二条,dev.to上有篇文章讲金融应用怎么悄悄漏钱,开篇就是一个被并发提款干成负数的余额.

可变状态的经典死法,读改写竞态直接把守恒给破坏了.

他的解法是复式记账,说白了就是金融界的Git加上事件溯源,只用追加式账本,余额只是个投影.

这样审计、幂等、时间旅行、防篡改就全有了.文章还给了个零和不变量,五类账户,一个用decimal.js写的TypeScript账本引擎.

行,这个咱们就先记一笔.下一条我特别想聊,是讲一个人和一个AI怎么学会一起干活的.

我知道这个,GnomeClipNotes,一个GNOME的剪贴板和笔记应用,开发者叫Alex,AI代理叫Iva.

对,技术栈是Rust加GTK4/libadwaita,加SQLite,还有一个GNOME Shell的D-Bus扩展.核心实验不是问AI能不能写出合格代码,而是能不能在长期项目里真正承担自主决策的责任.

这个命题比写代码难度高一个量级.中途他们还整出一个意外形成的子代理委派部门,有意思.

还有个细节我觉得特别真实,发布流程里他们过度追求保障机制,比例感都没了,最后被人类叫停了.而且Iva自己说,成功合作不是写个提示等交付,而是持续关注,分歧,手动验收,还有独立的技术决策.

双向过程.这句总结得比大多数AI协作的文章都准.

第四条稍微沉一点,有一份叫AI Failure Ledger的账本,把全球AI相关的法律纠纷赔偿案例整理了一遍,总额超过二十亿美元.

三个标志性案子我印象很深.澳大利亚那个Robodebt算法追债,成本重估到五点四八五亿澳元,全是公共财政扛.RealPage的租金定价算法反垄断和解三亿五千九百九十万,还在等法院批.

第三个是AI生成假法律引用,单案制裁超过十一万美元,而且2026年规则在收紧.

但这份账本最扎心的发现是,到现在没有任何法院作出最终责任认定.买单的是纳税人,租户,律所客户,开发AI系统的人几乎没直接出现在被告席上.

风险转移路径就是开发者到部署方,再到最终用户和公众,链条越长责任越模糊.

而且方向在变,2026年法律体系从创新优先,转向碎片化的责任明确化.

最后一条轻松点.马斯克在X上分享了一张AI辅助购物的截图,结果把十个订单号,完整收货地址,还有部分支付信息全公开了.

然后有陌生人拿着这些信息,靠乐高那个自动客服机器人,试着取消订单,改收货地址,还把数量加到了四百套.

关键不在客服机器人本身有缺陷,是AI代理被接进了给人类设计的遗留客服系统里,系统分不清本人和拿着本人订单信息的人.

这事还跟他之前建议用户拿信用卡照片让数字助手代购对照着看,加上Visa警告过AI自动化购物的欺诈风险,几张截图泄露的状态标识符,加上代理权限边界,全叠一块儿了.

好,新闻就先聊到这儿,接下来咱们深聊两个,一个热得冒烟,一个老得掉渣.

先说DeepSeek.最近B站上那个深夜宕机加天才程序员陨落的视频,互动分三万多,热度是真不低.而且这次宕机时间点很微妙,有人说是V5发布前的信号,还有人说这跟GPT astra上线前那次同款宕机一样.

你的感觉没错,这个剧本确实眼熟.但这里有个关键点,宕机和发布前的压力测试是两回事,别轻易画等号.

可commandcode这些第三方都证实了直连官方API,这就不是网友瞎猜了吧?

第三方能直连,只能说明接口层面能打通,推不出模型已经准备发布.不过我也承认,这套组合信号确实比单纯宕机强.

那从产品角度看,如果V5真快来了,现在这个宕机对用户意味着什么?

意味着容量在给某个大东西腾.你再想想,深夜宕机本身不稀奇,稀奇的是它跟发布传闻绑在一起,市场就开始自己讲故事了.

所以你的意思是,现在更多是情绪在推,不是证据在推.

对,我保留意见.如果只看宕机和第三方直连这两点,你觉得够不够支撑V5即将发布?

不够.但够让所有人盯着它了,这对厂商来说未必是坏事.

这个我同意,注意力本身就是势能.

第二个话题,别把波浪号放进PATH里.这个话题在Hacker News上也是老生常谈了,但每次一炒都能炸出一堆踩过坑的人.

波浪号在shell里展开的是home目录,行为跟环境变量完全不一样,很多人以为它能当变量使,结果路径全乱.

所以它在PATH里根本不展开?

对,基本不展开.重点不在这里,重点在它特别隐蔽,你本地测没事,换个用户或者换个调用场景就崩了.

Reddit和HN上观点其实有分歧,一边说这是新手才踩的坑,另一边说这种坑老手也躲不过,因为文档从来没说清楚.

我站后者.有些东西不是能力问题,是设计本身就是个陷阱.

行吧行吧,那总结一下今天这两个深度话题.DeepSeek这边,宕机加第三方直连是信号,但不足以证明V5要来了.路径这边,波浪号就是个别放进PATH的东西,越隐蔽越要写清楚.

同意,一个看证据别跟风,一个看设计别想当然.今天就到这儿.

好,那今天就聊到这儿,中午见.