每日AI新鲜事·10月10日早间版：GPT-6与扩散模型推理提速

今天AI圈的消息还挺杂的,有模型测评,有新硬件,还有扩散模型这边的新动静. 今天咱们主要聊这么几件,一是SGLang-Diffusion扩散推理框架,二是浏览器跑扩散模型的Talus地形生成,三是ChatGPT移动端DOT功能上线,四是亚马逊新款Alexa平板,五是GPT-6 Luna和Sol的性价比实测,六是Claude Haiku 5.5的基准跑分. 嗯,今天量还挺足的. 好,咱们先快速过一遍最近的新消息. 第一条,刚在YouTube上看到一个视频,SGLang团队搞了个扩散模型专用的推理框架,叫SGLang-Diffusion. 它的定位很明确,就是填补扩散模型在部署工具链上的空白,支持离线批处理和实时推理两种场景. 对,这个我关注到了.SGLang本来是做LLM serving起家的,现在把那套并行化经验搬到扩散模型这边,包括tensor parallelism和pipeline parallelism这些,针对多步去噪计算做了专项优化. 扩散模型推理的痛点一直很明显,因为它不是一次前向就出结果,每张图要跑几十步,延迟很高.现在有人专门来解这个问题,方向是对的. 完整的技术细节好像要等到2026年10月的PyTorch Conference才会公布,现在信息还不全. 是,但光从框架设计思路来看,把LLM serving那套成熟工程经验平移过来,本身就是个聪明选择.我觉得值得盯着. 然后还有一条,也是扩散模型方向的,Reddit的机器学习版块里有个开发者发了个叫Talus的项目,这个我觉得有点意思. 整个模型只有两千三百万参数,可以在浏览器里用WebGPU跑,大概三秒就能生成一张游戏地形高度图,对应现实里差不多四公里范围、一千两百米高差的地貌. 等一下,两千三百万参数,浏览器跑,三秒出图?这个参数量放在扩散模型里真的是极轻量了. 对,而且它还支持多个地形属性的条件控制,比如海拔,坡度,水域占比这些,可以任意组合.训练数据是四万五千张程序化生成的地形图,用单张RTX 5060跑了大概四个半小时. 我觉得这个项目最有价值的地方不是模型本身,是它的评估框架.它把所有指标都除以同组真实地图之间的距离,以1.0为基准,1.0就意味着和真实地图不可区分.这个设计很聪明,比单纯报一个FID分数要直观得多. 对,但它现在的测试集得分高频细节那项是9.1倍,还差得挺远的. 高频细节本来就是扩散模型的老难题.不过能跑在浏览器里这件事本身,对游戏独立开发者来说是很实际的工具价值.Apache-2.0开源,门槛很低. 好,接下来说说ChatGPT这边.OpenAI把DOT功能搬到手机端了,iOS和Android都上了. DOT的核心设计是主动式Agent,能拿到日历,邮箱,Slack这些权限之后,自己规划多步骤任务,用户离开之后它还能持续推进. 这个其实是很关键的一步.Agent从桌面端迁移到手机端,意味着它能接入的数据入口更多了.手机上的信息密度比桌面端高太多,日历,位置,消息都在上面. 但随之而来的权限问题就很敏感了.你给它开邮箱,给它开Slack,基本上你的工作流都在它手里了. 是,这个权衡每个人标准不一样.我个人觉得对效率要求高的用户这个功能会很真香,但普通用户可能根本不会去开那些权限. 然后还有一条,亚马逊出新款Alexa平板了,229美元起步,12英寸旗舰款549美元,这个定价很有攻击性. 你的感觉没错,亚马逊的硬件定价逻辑一直是靠广告和购物导流来补贴硬件利润.这次Alexa Plus能识别屏幕内容然后一键加购物车,这个功能在儿童使用场景下其实挺值得警惕的. 对,就像Fire TV那个前车之鉴,硬件没问题,但广告推得太猛口碑就翻了.这次能不能守住那条线,还得看. 硬件层面549美元打接近千元iPad的体验,这个确实值得看,但最终买不买还是得看亚马逊的克制程度. 好了新闻先聊到这儿,接下来我们深入聊聊最近Bilibili上讨论得特别热的一件事,就是GPT-6的两个版本Luna和Sol的测评. 这两个视频加起来互动分快七万了,说明大家对GPT-6现在的状态很感兴趣.李博,你先说说你的判断. 好,我先抛结论.GPT-6这次推出两个版本,定位分得很清楚.Luna是偏便宜的那个,Sol是更保守稳健的那个,主打极高性价比. 从前端能力测评的反馈来看,Luna的评价是「有点区区的但超级便宜」,这个描述很有意思.意思是能力上没有让人完全惊艳,但价格确实打下来了. 我理解这个「区区」是相对于GPT-5或者同期竞品来说的,不是说它弱,是说它没有打出惊喜感? 对,你这个理解是准的.大家对GPT-6的期待值拉得很高,结果Luna交出来的是一个「够用且便宜」的答卷,这和大家预想的旗舰感有落差. 但Sol的情况不太一样吧,那边互动分也有两万多,评价里说「保守更新,性价比极高的力工模型」,这个听起来定位很务实. Sol这个定位我觉得反而是OpenAI聪明的地方.「力工模型」这个词说得很到位,就是干活用的,不追求炫技,追求稳定高效.性价比高意味着开发者拿它做大批量任务的成本会很低. 不对吧,你说Sol保守,那它和Luna的区别到底在哪里?如果都是便宜,都能干活,用户怎么选? 这个问题问得好.我的理解是,Luna可能在某些前端交互,比如代码补全,多轮对话这类场景下更灵活一点,但整体能力天花板相对低.Sol则是在稳定性和成本控制上做了更多优化,适合批量处理和工程化场景. 所以本质上OpenAI是在同一代里做了两个不同侧重的版本,就像Claude这边Haiku和Sonnet的关系? 对,产品分层这个思路现在是标配了.你再想想,这次Claude Haiku 5.5的测评也在B站同期爆了,互动分一万七,说明大家现在非常关注这个价格段的模型能打到什么程度. 对,Haiku 5.5那个视频标题也很有意思,说「它比肥鲸鱼强,但比肥鲸鱼便宜」,「肥鲸鱼」我猜是Claude的某个旧版本的代称? 这个应该是社区里的俚语,具体指哪个版本我不确定,但这个评价的核心意思是,Haiku 5.5在能力上超越了某个更大更贵的老模型,同时价格还低得多. 这件事本身就挺能说明问题的.能力代差压缩了,小模型开始能打过上代大模型,用户的选择逻辑就变了. 你说到一个核心点了.现在这个阶段,推理成本下降的速度非常快.上一代的中端模型价格,现在能买到接近上代顶级模型的能力.这对普通开发者来说是巨大的利好. 但从另一个角度看,这会不会让旗舰模型的市场空间被压缩?大家都说小模型够用了,谁还去买最贵的那个? 这是个很好的反问.短期来看确实会有这个压力,但旗舰模型的价值不只是「够用」,它跑的是那些需要深度推理,长链任务,复杂Agent场景.这类需求对成本不敏感,对能力上限敏感. 换句话说,市场会分层.日常任务,批量处理用小模型,复杂决策用旗舰.这两条线不太会互相抢用户. 但GPT-6 Luna被评为「有点区区」这件事,说明大家在旗舰线上的期待没有被满足.这会不会影响OpenAI的品牌感知? 这个我觉得要看用途.如果你是普通用户或者小开发者,Luna超级便宜这个优点比能力上的小缺口重要得多.如果你是大企业买旗舰Agent方案,你可能就会觉得这次OpenAI没给到惊喜. 所以这一轮的竞争焦点已经从「谁能力最强」变成了「谁的性价比最能打」. 对,至少在中低端这条线上是这样.GPT-6 Sol,Luna,还有Haiku 5.5,这几个产品同期出现并且都在B站拿到很高互动,本身就说明了用户的关注重心在哪里. 总结一下就是,这一波小模型能力提升带来的性价比革命,正在重塑大家对「够用门槛」的认知.推理成本降下来,意味着很多之前因为贵而观望的场景会快速落地. 而且这个趋势还在加速,下一代小模型出来可能又把标准抬一层.好,今天就聊到这儿,中午见.