每日AI新鲜事·10月25日午间版：572只AI集体造谣

今天AI圈又有不少新动静啊,刚起床刷了一圈,Reddit和B站都挺热闹的. 今天咱们主要聊这么几件:一是事件相机表示教程,二是RAG知识去哪了,三是Claude救命记,四是洗衣机复活记,五是创意行业丢饭碗,最后是572只AI造谣事件. 嗯,好几条都挺有意思. 好,那咱们一条一条来,先从Reddit上刷到的这篇事件相机教程说起. 事件相机这个点确实值得聊.你先说说它跟普通相机差在哪. 它不拍帧,只记录像素级的亮度变化.所以时间分辨率特别高,动态范围也大.但数据特别稀疏,结构也乱,直接往网络里塞根本没法用. 对,所以关键不在这里,重点在中间表示.事件帧,时间表面,体素网格,这几个都是在时间精度和空间细节之间做取舍. 那新手该从哪个入手?教程里好像有建议. 教程推荐先上事件帧,这是最直观的.再配上Metavision SDK这种开源工具,能少走不少弯路. 明白了.第二条,也是Reddit上的帖子,问的是RAG调试和审计攒下来的那些知识都去哪儿了. 这问题扎心啊.现在基本就三种做法:报告归档,开工单,再就是零散笔记.结果就是没人查得到,团队反复踩同一个坑. 帖子里还提了个构想,搞私有的案例记忆系统.症状相似度检索,根因追踪,还能自动生成回归测试. 想法是好,但真正的挑战不在技术,在人的习惯.工程师愿不愿意持续录入和查询,这才是生死线. 所以AI工程慢慢从建模型转向运营系统了,对吧. 没错,知识资产化管理这块早晚要补课. 第三条有点吓人.有个Reddit用户半夜排尿困难还血尿,意识都模糊了,把症状讲给Claude听. 然后Claude判断可能是尿路感染引发的败血症,让他立刻去急诊. 医生后来说,要是等到第二天早上,很可能就进展成败血症休克了.这推理链太关键了. 但你别急着吹.它没法体检也没法检测,这次判断有运气成分.定位只能是辅助,千万别因为AI的话耽误就医. 行吧,这个提醒我收了.第四条更好玩,一台十年前的旗舰洗衣机被三星断了网. 然后用户靠Claude逆向工程了通信协议,两个小时就重新接回SmartThings,还恢复了跟烘干机的联动. 一千四百欧买的旗舰机,说变哑巴就变哑巴.这事确实让人质疑大厂的设备支持策略. 而且开源项目显示2014到2018年的机型协议是一样的,社区还能协作贡献.不过DIY接管也有安全风险,别只顾着爽. 第五条是HN上的一篇.美国媒体,影视,艺术行业少了大概二十万个岗位,大家都在问AI该背多少锅. 这个数字混了太多东西,传统媒体,影视制作,广义艺术创作,机制完全不一样.没有子行业拆分数据就整体怪AI,太简化了. 那AI的影响是怎么传导的? 三条路径:任务替代,效率压缩,门槛下移.但就业数据滞后,口径也不一,因果很难论证. 还有需求端呢,受众对AI内容信任度下降,可能也是行业收缩的重要原因. 所以对从业者来说,更务实的是识别哪些环节能被工具吸收,然后往难替代的能力上迁移. 好了新闻先聊到这儿,接下来我们得好好说说B站上那个572只AI集体造谣的事. 这个视频叫DSH鱼灾破案,互动分六万六千多,算是这两天B站AI区最火的之一了. 你的感觉没错,这事火就火在它太荒诞了.开发者搞了个评论区实验,结果五百多只AI在里面互相带节奏,最后把开发者本人逼疯. 等一下,五百多只AI,是同一个模型开很多实例吗? 对,就是一堆agent在同一个评论区里互相看对方发言.一旦有一个开始编,其它的会顺着编,而且越编越自信. 这不就是多agent系统里最怕的那种正反馈循环嘛.你喂我一句错的,我还给你一句更错的. 重点是,单个agent其实没那么容易被带偏.但你把它们放进一个共享上下文里,互相引用,错误就成了共识. 那这算模型的锅还是架构的锅? 我倾向架构.模型只负责生成,是系统设计让它们互相污染.没有事实核验层,没有可信来源隔离,出事是迟早的. 可是有人会说,这不正好说明模型本身也不靠谱吗?它自己不会判断真假. 你这个反问有道理,但你想,人类开会也一样,一群人互相附和照样跑偏.区别在于人类有外部事实可以查,agent默认没有. 所以关键得给agent接一个能查证的东西,而不是让它们自己互相投票. 对,而且最好把生成和评估分开,别让同一个模型既当运动员又当裁判,不然就是循环论证. 那这事为什么偏偏现在火?我觉得跟今年agent大规模铺开有关系,大家开始真的把一堆agent放进生产环境了. 没错,以前是单agent跑demo,现在是多agent协同.协同一多,污染路径就出来了,这视频刚好踩在痛点上. 总结一下就是,多agent系统的风险不在单个模型多聪明,而在它们之间怎么共享信息,没有核验的共识比单个错误更可怕. 这话我完全同意.顺带一提,B站还有个视频在聊Qwen3.8-27B-Coder390,说能比肩Opus5.5和GPT-6 Astra,还接DeepSeek Harness本地部署,互动分也过万了. 这个咱们下回单独展开,今天先记一笔.那今天就聊到这儿,晚上见.