每日AI新鲜事·08月05日午间版：Qwen3.6量化黑科技与Flowise关停

今天AI圈的消息挺杂的，咱们先快速过一遍。

第一条，Hacker News上看到Flowise宣布关停了。

哎，这个还挺意外的。Flowise之前是做低代码AI工作流搭建的开源项目，用的人不少。

对，拖拽式搭LLM应用那种。说关就关了，感觉低代码AI这条路不太好走啊。

现在Agent框架迭代太快了，低代码的抽象层跟不上底层变化，维护成本太高。

第二条，Reddit上有人整理了学AI的Top 10 YouTube频道，Andrej Karpathy、3Blue1Brown、Lex Fridman这些都在。

经典名单了，不过说实话现在入门AI的资源已经过剩了，关键是能不能坚持动手。

还有一条比较劲爆的，Reddit的ChatGPT版块在讨论以色列花了四千六百多万美元雇特朗普前竞选主管，试图影响ChatGPT关于加沙的输出内容。

这个标题确实炸裂。不过我猜实际操作大概率是公关层面的信息投放，不太可能直接改模型权重。

但这事本身说明大家已经把LLM输出当成一种舆论阵地了。

没错，模型的训练数据和RLHF偏好本来就是可以被影响的，这算是AI时代的新型信息战。

好了新闻先聊到这儿，接下来咱们聊个B站上特别火的话题。

Qwen3.6 35B的量化实验，有大厂程序员手搓精度，发现Q3量化的跑分居然超过了Q4。互动量快一万了。

这个我看到了，结论确实反直觉。按常理Q4精度高于Q3，跑分应该更好才对。

对啊，这到底是怎么回事？量化位数低反而效果好？

我的判断是，这跟量化方法和校准数据集的选择有关。不同的quantization scheme对不同层的敏感度处理不一样。

比如说，如果Q3用了更激进的混合精度策略，关键层保持高精度，非关键层压得更狠，整体效果可能反而更好。

所以不是简单的「位数越高越好」这么线性的关系。

完全不是。而且跑分这个东西，不同benchmark对精度损失的敏感度也不一样。可能在某些任务上Q3确实更优。

那这对普通用户来说意味着什么？是不是以后本地部署可以更大胆地用低量化？

得看具体场景。如果你主要跑代码生成，可能Q3够用。但长文本推理的话，精度损失累积会更明显。

B站评论区应该炸了吧，毕竟本地党最关心的就是怎么在有限显存里塞更大的模型。

这就是为什么这类视频火嘛。35B模型如果Q3能跑出好效果，意味着24G显存的卡就能装下。

说到本地部署，我还注意到B站有个FDE前沿部署工程师的教程也挺火的。这个岗位名你听过吗？

FDE这个说法比较新，但本质上就是把大模型落地部署的工程能力打包成一个职业方向。

包括量化、推理优化、serving架构这些。之前叫MLOps或者inference engineer，现在换了个更时髦的名字。

换个名字互动量就上来了，说明市场确实有这个需求焦虑。

对，模型越来越多，但能高效部署的人不够。这个缺口短期内只会越来越大。

所以量化技巧这种看起来很细节的东西，其实是部署工程师的核心竞争力。

没错，而且随着Qwen、Llama这些开源模型越来越强，本地部署的价值只会更高。不是所有场景都适合调API的。

行，那今天就聊到这儿。大家如果有本地跑Qwen3.6的经验也欢迎分享，咱们晚上见。