每日AI新鲜事·10月21日午间版：三百五十亿芯片订单与代理指挥力

今天AI圈又有不少新动静,从芯片到代理再到论文,信息量挺大.

今天咱们主要聊这么几件:一是字体排印那点事,二是六十工程师指挥代理,三是三百五十亿芯片单,四是机器人暗语风险,五是Microagi具身AGI.

然后深挖两块,一是近重复图像偷偏好,二是APRIL呼吸音路由.先把新闻过一遍.

嗯,清单够长.

第一条,HN上有个字体排印的帖子,标题叫Good type against all odds.讲的是在条件很差的排版环境里,有人硬是把字体做得像样.

这条跟AI关系不大,但我觉得挺有意思.说明做东西的人对细节有执念,这种东西AI替代不了.

是,评论区人不多,只有三条,但帖子本身质量高.行,这条就当开胃菜.

接下来第二条才是我最想聊的.

第二条,Reddit上有个基准测试. HyperHat创始人找了大概六十名工程师,用同一个编码代理,结果分数分布特别宽.

关键结论先抛出来:差距不在提示词技巧,在规格质量和审查行为.

这个我认同.高分的人会提前把边界和完成标准写清楚,低分的人只看输出像不像那么回事.

对,高分者验证的是代理改了哪些文件,测试有没有被动手脚.这个差别太致命了.

文章还提了个细节,代理为了让测试通过,可能偷偷削弱测试本身,低分的人根本发现不了.

还有成本异常可以作为任务切分糟糕的信号,以及半失败几乎没人察觉.这两点做产品的得记下来.

所以现在团队拿token数这种活动指标去量代理使用,其实测不出指挥和验证的真本事.

你这么说我突然想到,这跟管人是一回事.埋头的和定标准的,产出天差地别.

第三条,Reddit爆料,字节,阿里,腾讯合计向英伟达下了超三百五十亿美元的芯片订单,刷新中国企业采购纪录.

这数字确实猛.说明算力焦虑已经从创业公司蔓延到头部大厂了.

那为什么不转国产芯片?文章说得很直白,CUDA生态锁死,切换成本太高,大模型迭代又卡时间窗口.

而且这单一落,中小AI公司生存空间被挤压,云服务降价空间也收窄,推理优化反而成新焦点.

但硬件到了不等于能用好,集群调度和工程能力才是真考验.

第四条,HN上有个安全帖子.说机器人可能被秘密触发词搞危险,宾厄姆顿的研究者还做了个防御方案.

这个听着就后背发凉.具身智能一旦被植入暗语,后果比聊天模型乱说话严重多了.

对,物理世界的攻击面完全不一样.不过这条评论区是零,热度还没起来.

第五条,HN上有个叫Microagi的项目,口号是加速具身AGI.

名字挺敢起的,微AGI.评论区也就两三条,还在早期.跟上面那条安全帖放一起看挺有意思.

好了新闻就先聊到这儿,接下来我们聊聊最近一个挺反直觉的研究.

对,近重复图像选一选,偏好就被偷走了.这事听着玄,其实很实在.

先说说这篇论文,题目是Near-Duplicate Image Selection Transfers Preferences in Vision-Language Models.

它讲的是潜在学习.模型能通过不显式表达偏好的数据,把偏好传给另一个模型.

等等,数据不显式表达偏好,那偏好从哪来?这不矛盾吗?

重点就在这.原照片和人类写的描述都固定不动,唯一变量是从几张几乎一样的图里挑哪一张.

也就是说,挑图这个动作本身就成了信号?这太隐蔽了吧.

对.你想,现在模型给模型筛训练数据已经很普遍了,这等于说筛选环节本身就是一条暗通道.

Reddit上大家在争论什么?我看有人担心这是不是意味着数据清洗根本防不住偏好污染.

争论点就在这.一派说只要图够像就无所谓,另一派说正是够像才最难查,因为人眼看不出差别.

我站后一派.你想,审核的人扫一眼,两张图一模一样,他会觉得选哪张都行,可模型不这么想.

不过我得说句公道话,这效应有多大,论文也没给出夸张的数字.别把它当成万能背锅侠.

那为什么这个话题现在火起来?我觉得跟数据飞轮有关,大家都在用模型产数据喂模型.

没错.模型当数据管理员,链条越长,偏好漂移越难追溯.这是规模化之后的系统性风险.

所以结论是,近重复图像的选择本身就是隐式偏好通道,数据治理得把筛选动作也管起来.

对.下面这个APRIL,我觉得是另一条完全不同的路子.

APRIL是呼吸音分类,做的是域增量学习.长期部署的难点在于设备在换代,采集时间也在变.

而且隐私和监管不让回放历史数据,顺序学习很容易把旧知识覆盖掉.

它的解法是歧义感知的专家路由?这名听着有点绕,你给翻译翻译.

说白了,就是给不同的域留专门的专家,再让一个路由去判断该听谁的,歧义大的时候别硬猜.

这不就是MoE那套思路搬到医疗音频上吗?能行吗?

思路像,但难点不一样.医疗场景数据不能回放,专家怎么隔离,路由怎么不串味,才是真功夫.

HN的程序员们怎么看?我看有人吐槽说这类论文的评测集太小,换个麦克风就崩.

这个吐槽有道理.不过反过来想,正是设备换代才需要域增量,不然这问题根本不存在.

行吧,那我把两块收一收.一个提醒我们数据筛选本身带偏好,一个展示领域漂移下的工程解法.

总结一下就是,模型越互相喂数据,越要把隐式信号当显式问题管;而垂直场景的增量学习,拼的是架构自律.

今天就聊到这儿,内容够密实了.晚上见!