每日AI新鲜事·07月02日晚间播报：AI编程Agent安全攻击

今天下午AI圈有几条挺有意思的消息，我刷到一条的时候差点把咖啡洒了。

你又洒咖啡？上次不是刚把键盘弄坏吗。

别提了，那个键盘我心疼到现在。不过今天这条新闻确实值得激动一下——YouTube上有个视频标题就很炸，叫One GitHub Comment Just Hacked 3 AI Coding Agents。

对对对，我也看到了这条。就是说一条GitHub评论，直接把三个AI编程助手给黑了。

等等，一条评论？就一条？这也太离谱了吧。

一点都不离谱，这其实是prompt injection攻击的一个经典变种。你想啊，现在这些AI coding agent工作流程是什么——它们会自动读取issue、PR评论这些上下文信息。

然后攻击者就在评论里藏了恶意指令？

大概率是这个思路。Agent把评论当成正常上下文去处理，结果里面嵌了恶意的prompt，直接劫持了Agent的行为。

这从产品角度想太可怕了。现在多少团队在用AI辅助写代码，Copilot、Cursor这些工具几乎人手一个。

关键是这类攻击面特别大。GitHub上的评论谁都能写，你根本没法提前过滤。

那怎么防呢？总不能让Agent不读评论吧，那它还怎么干活。

这就是难点所在。本质上需要Agent能区分数据和指令，但现在的大模型在这方面还很弱。短期内可能得靠沙箱隔离加权限收紧来缓解。

所以说AI安全这块的坑还远没填完。

远着呢，这才刚开始。越多Agent接入真实工作流，攻击面就越大。

说到AI的能力边界，我还刷到一条也很有意思。YouTube上Grant Sanderson聊了一个话题，说AI发现数学的同时，解释数学也会比人类更好。

3Blue1Brown那个Grant Sanderson？他可是数学科普界的天花板了。

对，就是他。你觉得他这个观点靠谱吗？AI解释数学能比人强？

我觉得这个判断挺大胆的，但逻辑上说得通。你想，如果AI能自己发现新的数学结构，那它对这个结构的理解路径可能天然就更清晰。

就像一个人自己推导出来的东西，讲起来肯定比背下来的流畅。

差不多这个意思。而且AI可以针对每个学生的理解水平做个性化解释，这点人类老师很难做到。

那Grant Sanderson自己不就要失业了吗，得了吧。

你可拉倒吧，他那种把数学变成视觉艺术的能力，AI短期内还真学不来。

行吧行吧。对了还有几条快速过一下，Twitter上有人发现Notion里出现了Artifacts功能。

就是类似Claude那种Artifacts的交互形式搬到Notion里了？这个方向挺对的，笔记工具天然适合这种即时预览。

嗯，Notion一直在往AI方向猛推。另外B站上有个Nuxt.js全栈AI Agent的实战教程挺火的，从零开始教你搭一个完整的Agent应用。

前端同学搞AI Agent现在门槛确实越来越低了，全栈化是个趋势。

还有一条也是B站的，说50块体验金就能用GPT网页版加生图加Codex，一站式搞定。

这种整合服务现在越来越多了，说明AI工具的消费化在加速。不过大家用的时候还是注意下数据安全。

李博每次都要加一句安全提醒，你是不是被那条GitHub评论的新闻吓到了。

职业病职业病，搞安全的人看什么都觉得有漏洞。

好吧，那今天就聊到这儿。最大的感受就是AI工具越来越深入日常工作流了，但安全问题也得跟上。

对，能力越大责任越大嘛。大家用AI工具的时候多留个心眼。

那我们明天见啦，拜拜。

明天见。