每日AI新鲜事·10月27日晚间版：Agent安全与RAG未来

今天AI圈又有不少新动静,尤其是agent安全这块,动静不小. 今天咱们主要聊这么几件,一是Runlayer的agent安全实践,二是Scanyx的shadow AI治理,三是RAG的未来走向,四是MCP的通俗讲解,五是agent跨站点部署,六是那个飞上台的发布会,七是CCS配Claude Code,八是REA逆向工程实测. 差不多就这些,咱们一条条过. 嗯,行. 先看第一条,刚在YouTube上刷到Runlayer的分享,标题挺唬人,三百个agent六十个人,怎么管住自家AI. 这个比例先摆出来,三百个agent对六十个人,意味着平均一个人得盯着五个agent,靠人肉盯根本不现实. 所以他们的重点应该不是怎么拦,而是怎么让权限收得住. 对,思路就是给agent划最小权限边界,每个agent能碰什么数据、能调什么工具,都写死,出事能追溯. 这跟我们做产品时给功能开灰度挺像,只不过对象换成了会自己行动的agent. 而且agent比功能危险多了,功能不会自己组合调用,agent会,所以审计日志这块必须做实. 接着第二条,同样是YouTube,Scanyx这个视频讲shadow AI发现和审批审计,听着像是给企业补漏的. 这跟第一条是一体两面,Runlayer是主动建规矩,Scanyx是先把偷偷跑的agent和MCP server揪出来. shadow AI这个词挺形象,员工自己接了个agent干活,IT根本不知道. 对,企业里这种事只会越来越多,发现、审批、留日志,三步缺一不可. 第三条换换口味,Reddit上LangChain板块有个帖子聊RAG的未来,还挺有争议的. 我看了,核心观点是RAG没死,只是被长上下文和原生工具调用挤到了新位置. 可很多人说上下文都上百万了,直接塞进去不就完了,还检索什么? 重点不在这里,重点是数据是动态的,今天的信息塞不进昨天的上下文,检索的本质是让生成有条件地访问外部. 所以变的是形态,不是需求.那帖子说RAG往哪分? 三个方向,智能体化检索、混合检索加重排序、还有评估和可观测性,最后这块最容易被忽略. 第四条,MCP Server Kya Hai,一个印度博主用Airbnb的例子讲MCP,播放量不错. 这种通俗讲解其实很关键,MCP概念火,但很多开发者还没搞明白它到底解决什么问题. 用订房场景打比方,确实比讲协议好懂. 对,把工具调用讲成前台帮你对接服务,一听就明白. 第五条,Scale One AI Agent Across Sites 第二集,讲一个agent跨多个站点统一部署. 这其实是工程落地里最烦的部分,一个agent要适配不同站点,状态同步和权限隔离都是坑. 好了新闻先到这儿,接下来我们深入聊聊那几个讨论度高的. 先聊bilibili上那个大模型原生智能体手机发布会,居然有人飞上台了. 这个我先抛结论,发布会能出圈靠的不是参数,是那个意外,但它背后是真有人在为agent手机激动. 可这就矛盾了啊,一个靠打断流程火起来的视频,能说明产品本身受关注吗? 你看互动分九百多,讨论里一半在问这手机到底能干什么,说明好奇心被勾起来了. 那从产品视角,agent手机最该先解决什么? 权限和可预期性,手机是你的私人设备,agent替你操作,一旦越界信任就崩了. 这跟前面Runlayer那套思路其实通着,都是先收边界再谈能力. 没错,所以这类发布会真正该秀的是安全边界,不是飞上台. 行吧,再说另一个,bilibili上CCS安装配Claude Code那个教程,互动也不低. 这说明Claude Code已经溢出到嵌入式开发圈了,以前这类人根本不碰这类工具. 从装环境开始教,门槛确实被拉低了. 但教程火也暴露一个问题,配置环节还是太碎,产品化空间很大. 最后那个REA逆向工程实测,Claude Code联动开源REA看没有源码的App,这个我挺感兴趣. REA那套之前提过,一百多个工具,这次是实测它在真实逆向里的表现. 没源码也能看懂App,这能力听着有点吓人. 所以边界又回来了,能力越强越要有审计,不然逆向和安全就是一线之隔. 总结一下就是,今天这几条串起来其实一个主题,agent能力在涨,治理得跟上. 对,Runlayer和Scanyx管企业,发布会和REA提醒个人设备同样需要边界. 行,今天就聊到这儿,明天见.