每日AI新鲜事·10月30日晚间版：DeepSeek双料开源与免费推理退潮

今天AI圈又有不少新动静,而且好几条都挺有嚼头.

今天咱们主要聊这么几件.一是那个GPT-6.2的泄露传闻,二是Ollama的免费额度要变付费,三是Waymo找丰田造车,四是文档解析模型OXR,五是Qwen本地跑崩了,最后一个大话题,DeepSeek^广告开源推理引擎和手机版.

嗯,这几条确实都值得说.

好,那咱们先快速过新闻,后面重点聊DeepSeek那摊子事.

第一条,刚在YouTube上刷到一个视频,标题就直接给我整不会了.说GPT-6.2泄露,还有什么Opus 6,Gemini 4 Carbon的首次亮相.

这种标题一看就是流量密码.重点不在这里,重点在于它把Claude Fable 5.5和Qwen 4也塞进去了.

那你觉得有几分可信度?

我倾向于基本是猜的.你想,Fable 5才出来没多久,5.5就泄露了?这节奏不对劲.

也是,这种视频就是标题党.不过每次大版本前都有人这么喊,当个背景音听听就行.

第二条挺实在的,Reddit上有人贴了官方邮件.Ollama那个Free计划,11月9号要自动切成按量付费,预充值credits那种.

这个信号很清楚,免费推理的窗口在收窄.GPU常驻不干活,那都是钱啊.

对,邮件里还列了清单,gemma4:31b,gpt-oss的大杯小杯,还有nemotron-3好几个版本,全都要付费了.

文章给的三条路挺务实,小额充值,迁回本地,或者换家云.你要是不跑大模型,迁本地最省心.

好,第三条换个口味,Waymo和丰田牵手了.丰田出bZ4X纯电车,Waymo往里塞它的Driver系统.

这个分工我挺看好.丰田管造车和本地合规,Waymo专心搞软件,比自己吭哧吭哧建车队可扩展多了.

明年先在日本测,后面还要去英国.不过车队规模,载不载客,都没说.

对,细节还捂着呢.但这路子说明头部玩家开始转向核心算法自持,车和资源外采的混合模式了.

第四条是个技术活儿,Reddit上SoMarkAI团队开源了个文档解析模型叫OXR,1.3B参数.

它解决的是PDF阅读顺序这个老大难.你想,多栏排版顺序一错,下游NLP全跟着崩.

它怎么做到的?

把布局分析拆成可替换模块,然后一次前向传播里同时预测元素和顺序,不用两阶段叠误差.

听着挺巧.不过它有个硬门槛,本地跑要24G显存,多栏布局也还是弱项.

对,但它在三个bench上都排第一,权重还开源了,文档RAG那帮人估计要乐了.

最后一条短的,Reddit有人吐槽Qwen 3.5 9B在Ollama上,思考过程全出来了,最后答案却没了,就剩个光标.

这个太典型了.硬件够跑,但模型模板对思考结束标记处理不当,或者num_predict把生成截断了.

所以排查顺序是先看Modelfile模板,再看停止词和长度参数?

没错,再对比一下非思考模式.思考型模型给本地工具链带来的是新麻烦,硬件达标只是第一步.

好了新闻就先聊到这儿,接下来咱们深入聊聊最近在B站特别火的一个话题,DeepSeek.

有个法国博主的视频,标题特别抓人,说美国还在烧钱,中国AI直接开印钞机.核心是DeepSeek开源推理引擎,说单显卡俩月回本.

这个账本我看了.结论先抛出来,单卡两个月回本这个说法,方向对,但数字得打折听.

为什么打折?它怎么算的?

它算的是推理吞吐和电费租金的对比.问题是它假设满负载,你可别小看这个假设,现实里很难一直跑满.

那这不就是拿理想值当常态嘛.不过它火起来也不是没道理,开源推理引擎这事本身分量够重.

对,重点在开源.推理引擎开源意味着什么?意味着推理成本这块黑箱被撬开了,中小玩家能自己搭.

Reddit上就有人在争,说这是不是把推理商品化了.也有人泼冷水,说部署和调优的隐性成本没人算.

HN的程序员更直接,说回本周期这玩意儿看的是你的QPS,不是看博主的截图.

可这不矛盾吗,一边说暴利,一边说隐性成本高.

不矛盾.开源把软件成本打下来了,但硬件和运维还是硬支出.省的是许可费,不是电费.

懂了,就是把原来交给闭源厂商的钱,换成了自己买卡自己调.

对,所以那条暴利账本更多是传播话术.真正有价值的是,推理引擎开源让成本结构透明了.

那接着说第二个,DSH-GO,手机版DeepSeek Harness,口号是AI正式接管手机.

这个我反而更关注.手机端跑harness,门槛在显存和功耗,能跑起来本身就说明端侧这条路在往前走.

但它现在还是demo味儿,真接管手机还早吧?

早,但方向有意思.你看之前安卓端侧AI比云端快两倍那个数据,端侧推理的经济账是算得过来的.

所以我的理解是,一边开源推理引擎把云上成本打下来,一边往手机端塞,两头挤.

总结一下,DeepSeek这波的核心不是暴利,是把推理从黑箱变成可自建,成本透明化才是真影响.

行,那今天就聊到这儿,DeepSeek这两条咱们后面还得盯着.明天见!