每日AI新鲜事·08月25日早间版：AI洪水攻击政府服务与多模型互查幻觉

周二早上好，今天AI圈几条消息还挺有意思的，咱们先快速过一下。

第一条，Reddit上有个帖子特别火，有人把ChatGPT、Claude和Gemini拉到一个群聊里，让它们一起解决一个复杂问题。

结果呢，这几个模型居然能互相抓对方的幻觉，就是一个模型瞎编的内容被另一个模型指出来了。

这个思路其实挺巧妙的。本质上就是用多个独立的推理源做交叉验证嘛。

单个模型你没法确认它是不是在编，但三个不同架构、不同训练数据的模型同时编同一个错的概率就低很多了。

对，相当于用模型之间的分歧点来定位哪些地方可能有问题。我觉得这对普通用户来说是个很实用的技巧。

嗯，不过也别太迷信。如果三个模型都基于类似的互联网语料训练，某些系统性偏差它们可能会一起错。

好，第二条。Twitter上有人分享了一个截图，说特别喜欢ChatGPT觉得你的问题值得认真想一想的时候。

就是那个thinking time嘛，模型判断问题复杂度然后决定要不要调用深度推理。

对对对，有种被AI认可的仪式感。你问了个好问题，它愿意多花点时间想想。

说白了就是推理模型的自适应计算分配，但用户体验上确实有种微妙的满足感。

第三条，GitHub上有个项目叫NodeTerm，一千多星了，本周涨了将近五百。它做的是基于节点的终端管理器，专门给AI编程Agent用的。

我看了一下，它底层是tmux，但前端做成了无限画布上可拖拽的节点。你可以同时跑多个Agent会话，每个都是画布上的一个节点。

这对同时管理多个Agent任务的开发者来说应该挺方便的，比开一堆终端窗口直观多了。

而且它支持macOS、Linux还有浏览器版，这个覆盖面还不错。现在AI编程工具的配套生态越来越丰富了。

最后一条快速带过，B站上有个GoFly社区的教程在讲AI编程智能体工具选择，还有OpenCode加MCP的环境搭建。给想入门的同学一个参考。

实操类内容，适合想动手但不知道从哪开始的人。

好了新闻就先聊到这儿，接下来我们聊聊最近一个特别火的话题。

Hacker News上有篇论文引发了很多讨论，标题叫Characterizing Agentic Flooding of Government Services，六十多分七十五条评论。

李博你给大家解释一下，这个Agentic Flooding是什么意思？

简单说就是，当AI Agent大规模普及以后，它们会代替人去访问政府的在线服务。比如自动查税务、自动提交申请、自动查询各种公共数据。

问题是，这些Agent的请求量可能是人工操作的成百上千倍，政府系统根本没设计来扛这种负载。

等等，这跟传统的DDoS攻击有什么区别？听起来都是流量暴增把服务打崩。

区别很大。DDoS是恶意的，目的是搞瘫系统。但Agent flooding每一个请求都是合法的、有真实用户意图的。

比如一个报税Agent帮一万个用户同时查询退税状态，每个请求都是正当需求，但加在一起就把系统压垮了。

这就很尴尬了。你没法简单地把这些请求拦掉，因为背后是真实用户的真实需求。

对，而且HN评论区有人提了一个更深的问题——如果政府开始限流Agent请求，那没用Agent的人反而会获得更好的服务体验。

但这又造成了另一种不公平：用Agent的人本来可能是因为不方便亲自操作才需要代理。

这让我想到一个产品设计层面的问题。政府服务的API和网页界面，原来是按人的操作频率来设计的。

现在突然来了一层Agent中间层，整个服务架构的假设全被打破了。

没错。论文里应该就是在刻画这个现象的特征，比如Agent请求的模式长什么样，跟正常人类请求有什么可区分的特征。

HN评论区的讨论方向是什么？大家倾向于怎么解决？

我看到有两派。一派说政府应该主动提供官方API，给Agent一个正式通道，带速率限制和认证。

另一派说这治标不治本，真正的问题是政府数字化服务本身太脆弱了，应该趁这个机会倒逼升级。

我觉得两者都有道理。短期肯定需要某种限流或排队机制，长期确实要重新设计服务容量。

其实这个话题跟另一篇HN上的文章有关联，叫Fences Not Sandboxes，也有六十分六十五条评论。

Fences Not Sandboxes？篱笆而不是沙箱？这是什么意思？

它讲的是AI Agent的安全边界应该怎么设计。传统思路是把Agent关在沙箱里，限制它能做的事。

但这篇文章的观点是，沙箱太死板了，Agent被限制得做不了正事。应该改用篱笆的思路——设定边界，但在边界内给充分自由。

这跟政府服务那个问题就对上了。你不能完全禁止Agent访问公共服务，但你需要一个明确的边界框架。

对，核心思路是一致的。与其事无巨细地控制Agent每一步操作，不如定义好哪些区域它绝对不能碰，其他的随它发挥。

但这个篱笆怎么画是个难题吧。画太宽了等于没画，画太窄了又变成沙箱了。

你说到点上了。这其实是整个AI安全领域当前最实际的问题之一——不是要不要限制的问题，是怎么在安全和有用之间找平衡。

而且这个问题随着Agent能力越来越强，只会越来越紧迫。今天是政府服务被冲了，明天可能是医疗系统、金融系统。

没错。我觉得这两篇文章放在一起看特别有意义。一篇刻画问题的规模和特征，一篇提供思考框架。

接下来半年到一年，应该会有越来越多现实案例冒出来，倒逼各方出台具体方案。

确实，Agent flooding这个概念我觉得会越来越频繁出现在公共讨论里。好，今天就聊到这儿，李博，中午见。

中午见，小雨。