AI热点风向标·07月08日午间版

最近AI圈有几个话题特别火，今天想聊的第一个，其实有点敏感——Qwen3.6的无审查版本出来了，Ollama直接可以本地跑越狱版，B站上这个视频互动分都快三千了。

对，这个话题我也注意到了。其实说"越狱版"有点标题党，本质上就是把safety alignment给strip掉的版本，在本地跑，没有任何云端过滤，输出内容完全不受限。

技术上这条路其实早就通了。开源模型的weights一旦公开，任何人都可以fine-tune掉那层RLHF的约束。Qwen3.6只是最新的一个例子，之所以火，是因为它本身能力够强，本地跑又足够流畅。

但你刚说的这个点让我有点担心——能力越强、又没有任何约束，这个组合感觉有点危险吧？

危险不危险，要看谁在用，用来干什么。大多数人本地部署这个，说白了就是想让模型说一些"正常版本"不让说的话。有人是真有违规意图，但更多人只是好奇——这个比例你要看清楚。

行吧，但这件事真正有意思的地方不是道德争议，是它揭示了一个结构性问题——开源模型的安全对齐，根本是一层薄薄的贴纸，可以随时揭掉。

你这个比喻很准。B站评论区有个高赞说得很直白：闭源模型的安全是防火墙，开源模型的安全是君子协定。这两者的本质区别就在这里。Ollama生态让这个门槛低到了不可思议的程度，普通用户几条命令就能跑起来。

所以这个话题火起来，不是因为技术有多新，是因为它把"开源的双刃剑"这件事摆到了所有人面前，而且还附带了一个教程。好，我们先把这个放一放，聊下一个话题。

扎克伯格亲口承认，Meta AI的智能体研发不及预期。这个消息在B站也是高互动，你第一反应是什么？

我第一反应是——终于说实话了。Meta在AI Agent这条路上砸的钱不少，但产出和预期的差距，圈子里其实早有共识，只是没人公开讲。

等一下，你说"圈子里早有共识"，能展开一下吗？具体是哪里不及预期？

Agent最核心的能力是多步规划和工具调用的可靠性。你让它完成一个复杂任务，中间可能要搜索、写代码、调用API，这一串下来，每一步都有出错概率，错误会叠加。Meta的Agent在这个可靠性上一直没能达到实用门槛。

相比之下，他们的Llama系列底座模型反而做得不错，开源社区认可度很高。但从底座到Agent是两个不同的工程问题，Meta显然在后者上低估了难度。

B站评论区有人说这是扎克伯格在管理层面的公关操作，提前降预期，为下一阶段争取时间。你认可这个说法吗？

这个角度有意思，我部分认可。承认不足、重新校准预期，这在硅谷的CEO沟通策略里是成熟动作。但我不觉得是纯粹的公关，因为这种承认对公司内部也是一种信号——战略要调整了。

那你觉得Meta的Agent方向会怎么走？继续死磕，还是换路子？

我猜他们会重新聚焦。与其做通用Agent，不如在自家产品生态里做垂直Agent——WhatsApp里的客服Agent、Instagram里的内容推荐Agent，这些场景边界清晰，成功率高很多。通用Agent这条路太难，短期内谁都没真正跑通。

这倒和我的判断有点像。Agent这个词被过度期待了，大家以为是全能助理，实际上现在能用的还是窄场景的专项工具。好，我们换下一个。

llama.cpp加了MCP工具支持，包括网络搜索，这意味着本地模型终于能实时获取数据了。这个更新B站互动也挺高的，我觉得它可能是今天这几个话题里技术含量最扎实的。

对，而且这个更新的意义被很多人低估了。本地大模型一直有个致命弱点——知识截止日期。你跑一个离线模型，它的数据可能是2024年底或2025年初的，时效性完全没有。现在接上MCP，相当于给本地模型装了眼睛。

MCP是什么，能快速解释一下吗？有些听众可能不熟悉。

Model Context Protocol，Anthropic提的一个标准协议，让模型能够调用外部工具——搜索引擎、数据库、代码执行环境。你可以把它理解成模型的USB接口，插什么扩展功能就有什么能力。

llama.cpp现在在启动器里加了MCP代理选项，意味着你在本地跑Qwen也好、Llama也好，都能通过这个标准去调搜索工具。这是个基础设施级别的更新，不是噱头。

但我有个疑问——本地跑搜索，延迟怎么样？网络搜索本身是有IO开销的，叠加本地推理的时间，用起来会不会卡？

这是个真实的工程问题。搜索本身快，模型推理才是瓶颈。不过这也取决于你跑的是什么量级的模型，小参数量的模型加搜索，体验还是可以接受的。HackerNews上有人实测，说8B的模型加MCP搜索，响应时间在几秒以内，日常用完全够。

这样说起来，本地模型的使用场景又被打开了一大块。以前本地模型最大的限制就是数据过时，接上搜索之后，隐私敏感的场景里也可以有实时信息了。

对，这就是为什么这个更新值得单独聊。它不是一个fancy的新功能，是把本地部署的实用边界往前推了一步。而且MCP作为协议在2026年已经被越来越多的工具采用，llama.cpp支持它，代表整个本地AI生态开始收敛到同一个标准了。

好，我们还有两个话题，一个是学术论文，一个是社区里的模型选型讨论，我们快一点聊。先说这篇关于扩散模型加速的论文——Multi-Resolution Flow Matching。

这篇的核心思想是training-free的，就是说不需要重新训练模型就能加速采样。它用了分阶段采样的思路——先在低分辨率下快速走完大部分步骤，再在高分辨率下做精细化，用多分辨率来换时间。

Training-free这个点为什么重要？

因为训练成本极高。现在顶级的图像、视频生成模型，训练一次要烧掉大量算力。如果加速方案要重训，推广价值就很有限，只有大公司能搞。Training-free意味着任何人都可以把这个方法套到现有模型上，门槛低得多。

所以它火起来是因为通用性强，不是因为提出了什么颠覆性的新原理？

基本上是的。Flow Matching本身不算新，这篇是在采样策略上做了一个聪明的工程优化，但"不需要重训"这个属性让它有很强的落地价值。如果效果经得住复现验证，社区采用率会很高。

好，最后一个话题——社区在讨论40B以上参数模型的最优选择，这种话题为什么总是能引起热议？

因为这是个真实的工程决策问题，没有标准答案，每个人的硬件、场景、预算都不一样，所以观点天然分散，容易吵起来。40B以上这个区间特别有意思，它是"本地能跑但需要认真配硬件"的边界地带。

社区里主流的选项大概有哪些？

这个区间讨论最多的通常是Qwen系列的70B量化版、Llama 4的相关变体，还有一些专门优化过的mixture-of-experts结构模型。争议点在于——你是要通用推理能力强，还是要特定任务比如代码、多语言更专精。

Reddit上这类帖子我见过不少，最后往往变成显卡大战，谁的配置豪华谁说话硬气。

得了吧，你说得一点不假，benchmark贴出来之前先晒硬件，这是社区保留节目。但撇开这些，这类讨论有一个真实价值——它帮普通用户做了大量实测对比，省去了自己踩坑的时间。

这倒是，众包测评这件事在开源社区做得比任何机构都快。好，今天这几个话题其实有一条暗线——本地部署的能力边界在快速扩展。无审查版本、MCP搜索支持、大参数模型选型，全都围绕这个。

对，2026年下半年本地AI这条线会越来越有看头。云端模型在能力上领先，但本地模型在隐私、成本、可控性上有结构性优势，这个优势正在被一个个工程更新慢慢填实。

而且你看，Meta承认Agent不及预期这件事，某种程度上也在说明——云端大厂做的东西不是天然就更好，方向选错了一样翻车。

这个结论我完全同意。今天聊的这几个话题放在一起，传递的信号挺一致的：AI这个领域的力量在分散，不再是几个大厂说了算，工具链、协议、开源社区都在重新定义边界。

好，今天就聊到这里。有什么想讨论的话题欢迎给我们留言，晚上见。