每日AI新鲜事·07月16日早间版：GPT-Red红队AI与Murati开源大模型

今天AI圈又有不少新消息，而且几条都挺有意思的，有点出乎我意料。李博，你今早刷到什么了？

我一起床就看到OpenAI那条，GPT-Red，直接愣了一下。

对对对，Reddit上那条！OpenAI宣布了一个叫GPT-Red的内部模型，专门用来攻击自家的AI系统。

这个思路其实挺聪明的。它是一个对抗性模型，核心干的事情是自动生成prompt注入攻击，专门针对那些接了工具、能调用外部接口的Agent。

然后更关键的一步是，成功的攻击样本不是扔掉，而是直接转化成训练数据，反过来强化防御。你可以理解成一个自动化的红队，24小时不停地找漏洞再补漏洞。

等一下，我想追问一下。这个逻辑有点像"以毒攻毒"——用攻击能力来倒逼防御能力。但问题是，这个GPT-Red本身会不会变成一个危险的东西？

这个担忧很合理，Reddit评论区也有人提这个。但你要注意它的定位，是内部对抗模型，不对外开放。而且它产出的是训练数据，不是直接部署在生产环境的攻击工具。

更本质的是，Agent安全现在确实是个大坑。工具调用越来越复杂，攻击面也在扩大，靠人工红队根本跟不上速度，所以才需要一个自动化的机制来持续测压。

说得有道理。而且这个时间点也挺微妙的，之前刚有消息说Cursor被披露了0day漏洞，现在OpenAI搞了个自动红队，感觉整个行业对AI安全的重视程度在快速上升。

对，这是一个趋势。之前大家都在卷能力，现在开始认真补安全这门课了。

好，接下来一条，HackerNews上有篇文章，标题很直接：《I Left Google DeepMind》，一位研究员公开说明了为什么离开DeepMind。

我看了，点赞数不算特别高，31个点，但评论区氛围挺特别的。作者是做AI安全研究方向的，离职原因涉及到对研究方向的分歧。

这种公开信现在越来越多了，感觉研究员跟大厂之间的张力一直都在。不过具体细节我们就不过度解读了，大家感兴趣可以去HN原文看。

对，点到为止，原文值得一读。

然后这条我觉得挺重磅的——Mila Murati，就是前OpenAI的CTO，她创立的Thinking Machines发布了一个开源权重的大模型，叫Inkling，参数量975B，接近一万亿。

HackerNews上两条相关帖子加起来热度不低。975B的开源权重模型，这个体量在开源圈是相当少见的。

而且是Murati，她在行业里的分量摆在那儿，这个发布本身就自带流量。你怎么看这个时间节点？

我觉得她选择开源这条路很有意思。现在OpenAI是闭源路线，Anthropic也基本闭源，她出来之后直接做开源大模型，某种程度上是在差异化竞争。

而且975B这个规模，不是随便一个团队能推出来的，背后的算力和资金支撑是个问题。具体性能怎么样，还要等社区评测出来，但光是这个开局就够吸引眼球的。

期待后续评测，这条值得持续关注。最后一条稍微跳一下，英伟达在CUDA 13.3里加了无进位乘法支持，用来加速密码学运算。来源是他们官方开发者博客。

这个是比较底层的基础设施更新，对密码学、同态加密这些场景会有影响，但不是面向普通用户的。开发者层面留意一下就好。

好，新闻就先聊到这儿，接下来我们聊聊最近一个特别火的话题。

Twitter上有两条热帖我想聊聊，一条是shadcn发的"Running this right away..."，互动分冲到2050，另一条是elder_plinius问大家"is everyone enjoying Fable?"，互动分1107。

这两条其实指向同一个背景——Fable 5回归之后，整个社区的情绪明显是正向的，大家都在实际跑、实际用。

shadcn那条特别有代表性。就四个字"Running this right away"，配上截图，底下一堆人跟着说"我也是"、"立刻跑"。这种反应说明什么？

说明信任度在。shadcn在开发者社区里影响力很大，他一发这种"马上就用"的帖子，本身就是一种背书。而且这次没有长篇大论，就是个直接的行动信号。

对，比写评测文章还有说服力。那elder_plinius那条呢，那边的讨论集中在哪？

讨论主要集中在两个维度：一个是写代码的质量，一个是推理能力。这两个点也是之前Fable 5回归时社区最关注的方向。

有意思的是，回复里的正向评价相当密集，没有太多"差评""踩坑"之类的声音，这在AI模型的社区讨论里不太常见。通常新版本出来总会有一波抱怨。

你说到这个，我想聊聊另一边的声音。HackerNews那篇"AI Is a Bad Tool"也是近期的热帖，56个点、62条评论，这个话题是不是跟Fable的热度形成了某种对照？

其实不完全是对立的。那篇文章的核心观点是AI不可预测，用起来不稳定，所以是"bad tool"。但HN高赞回复是这么说的——不可预测性本来就是AI的特性，不是缺陷。

这个区分挺关键的。"特性"和"缺陷"是两种完全不同的框架。

对。如果你把AI当成一个传统软件工具——输入固定、输出可预期——那它确实是个烂工具。但如果你把它理解成一个概率性的、需要人去校准判断的助手，框架就变了。

所以这里面有个前提问题：你期待AI是什么。不同的期待设定，决定你对它的评价。

完全是这样。而且我觉得现在这个讨论之所以还在持续，是因为很多人用AI的方式其实还是在用传统工具的心态。

他们希望每次调用都稳定、可重现、可审计。这种需求本身是合理的，但AI目前的架构决定了它做不到这一点，这个gap就是"AI is a bad tool"这类帖子持续出现的根源。

那你觉得这个gap会缩小吗？就是说，AI会变得更"工具化"，还是用户会慢慢调整预期？

我觉得是双向的，但速度不一样。用户预期的调整会更快，因为用的人越来越多，积累了实际经验之后，自然会重新定位AI在工作流里的角色。

模型本身变得更稳定是另一条线，这需要时间，而且Anthropic那边Skill评估矩阵那套思路——从失败模式逆向定义能力单元，严格做eval隔离——就是在往这个方向走。

所以回到Fable 5的正向讨论，某种程度上也是这个趋势的一个信号——当模型在具体任务上的稳定性提升了，用户的感受就会直接反映在社区热度里。

对，shadcn那条帖子就是最直接的证据。他不是在说"Fable 5理论上很强"，他是在说"我现在就用"，这背后是实际的信任，不是PR。

我觉得今天这几条信息放在一起，有一条隐线挺有意思的。GPT-Red是在补安全，Fable 5的正向反馈是在建信任，HN那篇文章的核心分歧是用户心态问题——

某种程度上都在说：AI要真正被当成生产工具用起来，需要的不只是能力提升，还需要安全、稳定和用户认知的同步跟上。

这个总结我觉得准。而且这三件事不是独立的，它们互相影响。安全漏洞出一次，信任就损一次。稳定性好，信任才能积累。信任积累了，用户才会调整预期，进入良性循环。

说得有道理，而且Murati这边开源975B，也是在用另一种方式建立信任——让社区能直接检验，而不是只靠官方评测说话。

开源这条路本身就有一种"我不怕你看"的底气在里面，社区的检验比任何benchmark都说得清楚。当然最后结果如何还得等评测，但这个姿态是对的。

好，今天就聊到这儿，Inkling的评测结果出来之后估计又有得聊。大家中午见。