每日AI新鲜事·10月12日午间版:DeepSeek V5预热与GPT 6 Sol测评

今天AI圈又有不少新动静,从本地推理到端侧AI,再到几个大模型的新消息,内容挺杂的. 今天咱们主要聊这么几件,一是Qwen3.5本地部署,二是苹果M4芯片,三是播客语音转写工具,四是OpenAI Codex配额规律,五是Go Outside这个反手机应用,六是DeepSeek V5的消息,七是GPT 6 Sol的前端能力测评. 嗯,今天料还挺多的. 好,咱们先快速过一遍近期的新消息. 第一条,dev.to上有篇文章教你怎么把Qwen3.5,OpenClaw还有Ollama三件套整合起来,搭一套完全离线的AI智能体. 核心卖点就是不用花云端订阅费,35B版本在24GB显存下就能跑256K上下文加图像理解,这个参数组合确实挺诱人的. 这个方案的关键其实是Qwen3.5的架构,它用了Gated Delta Networks加稀疏MoE的混合结构,所以在同等显存下能撑住这么长的上下文. Ollama那一层主要是把底层复杂度屏蔽掉,用一个兼容OpenAI的本地接口来统一调用.OpenClaw再往上接Telegram,Slack这些渠道,加上持久记忆和工具调用. 所以整体是一个三层的架构,模型,接口,渠道各管各的. 对,而且文章里特别提到每处细节配置对速度和可靠性都有实质影响,不是装完就跑那么简单.但这套东西对普通开发者来说门槛还是不低. 第二条,苹果M4芯片的事.dev.to上有篇分析文章,核心结论是M4的设计重心已经从跑分转向给端侧AI铺路了. 数据上,神经引擎比M2快4倍,达到每秒三十八万亿次运算.CPU快一点五倍,GPU加入了硬件光线追踪,还是第二代三纳米制程. 最值得关注的是那个三十八TOPS的神经引擎.端侧跑生成式AI,关键瓶颈之一就是推理速度,这个数字提上来之后,一些以前必须云端的任务就能本地化了. 不过文章也说了,M4向其他产品线的扩展以及和英特尔,高通的实际差距,还需要更多数据验证. 对,现在能确认的是首发在iPad Pro上.手机端和桌面端的情况,等实际产品出来再说吧. 然后还有一条,dev.to上介绍了一个叫Speech to Text的工具,部署在Apify平台上,主要干的事是把语音转写的繁琐流程全打包了. 下载,音频抽取,切分,Whisper large v3识别,时间戳重拼,全流程一键搞定.费用大概是用内置密钥每分钟零点零零九美元,自带Groq密钥可以降到零点零零四. 重点是它解决的是流程繁琐的问题,不是模型更强.底层还是Whisper large v3,背景噪音重或者多人抢话准确率还是会掉. 就是一个打包服务,适合播客归档,会议整理这类场景,不想自己维护推理流水线的团队. 接下来还有两条快说一下.一个是有开发者花了五个月时间记录了四十四条OpenAI Codex配额重置的信号,发现了一个叫banked resets的现象. 这个挺有意思的,就是平台会注入一些一次性额度,和正常的使用周期没关系.所以以前那种耗尽就等,等完就满的直觉是错的. 最后一条新闻,有个叫Go Outside的网页应用,反其道而行,让你放下手机出门.它用WebLLM加WebGPU在浏览器本地跑Gemma模型,结合天气和时段生成一条户外任务,然后隐去屏幕. 技术上挺完整的,Gemma 2B量化到大概一点五GB,首次下载后完全离线,无后端,零API成本.它的关键工程挑战是小模型输出格式不稳定,作者做了三级兜底机制. 对,解析,重试,加上二十二条手写任务兜底,挺细的.好,新闻就先聊到这儿,接下来我们深入聊聊最近两个特别热的话题. 先说DeepSeek V5的消息.B站上最近有个视频火了,互动分三万五千多,说的是DeepSeek深夜宕机,同时有多个第三方客户端证实直连官方API也出现了问题. 视频里把这次宕机和GPT Astra上线前的同款宕机做了对比,暗示DeepSeek V5可能即将发布. 这个逻辑我理解,就是大模型发布前往往要大规模更新基础设施,这个过程中容易出现服务波动.GPT Astra上线前确实也出现过类似情况. 不过这类信号本质上是circumstantial evidence,间接证据.宕机的原因可以有很多,不一定是新模型要来.但这波舆论热度本身说明大家对V5的期待很高. 等一下,你说期待高,V5在大家预期里应该是什么水平的产品? 你这个问题很关键.DeepSeek之前每个版本跳跃都挺大的.V4已经在推理效率上做得很极致了,V5如果按这个节奏,大家猜的方向是更强的多模态能力或者大幅降低推理成本. 降低推理成本这件事,其实整个行业都在往这个方向走.前两天那个十人团队花一万八千美元搭本地推理服务器的事,其实也是这个逻辑的延伸,就是推理成本降到一定程度,自建基础设施就变得合算了. 对,而且DeepSeek的开源策略让外界有机会拿着它的权重自己部署.如果V5出来还是走这个路线,对整个端侧和本地部署生态的推动会很大. 所以结论是,V5到底发没发还不确定,但市场预期已经在那儿了,宕机事件只是把这个预期点燃了一下. 没错,真正值得关注的不是宕机本身,而是DeepSeek如果继续保持低成本高效率的路线,对整个定价体系的冲击. 好,接下来聊GPT 6 Sol.B站上同样有个热门视频,互动分两万四,专门测了GPT 6 Sol的AI前端能力. 视频的核心结论是这个模型是保守更新,但性价比很高.定位有点像力工模型,就是干活稳,不求最强. 你的感觉没错.Sol这个命名本身就暗示了它的定位,不是旗舰,是中间层.OpenAI的产品线现在很清楚,旗舰走高端,Sol走性价比区间. 那前端能力全面测试这个说法,具体是指什么维度? 一般测AI前端能力会看代码生成质量,HTML加CSS的还原度,组件级的逻辑理解,还有跨框架的迁移能力.这类测评对产品开发者来说特别有参考价值. 不对吧,我有个疑问.如果Sol是保守更新,那它和GPT 5或者之前的模型相比,前端能力到底提升了多少? 这个问题很好.保守更新不代表没进步,更可能是在某个已经够用的能力上做稳定性优化,同时大幅压成本.对前端这类任务,模型够用就行,过强反而用户感知不明显. 你这么一说我想到一个问题.现在AI编程工具比如Cursor,Windsurf这些,底层模型的能力提升对最终用户体验的边际贡献是不是已经在递减了? 这个嘛,有点递减趋势,但还没到瓶颈.现在卡点更多是工具层的工程问题,比如上下文管理,多文件理解,而不是模型本身的能力.Sol这种性价比模型其实很适合做这类工具的后端. 可是这就矛盾了啊.如果工具层才是关键,那大家为什么还这么关注模型本身的能力测评? 因为大家买的是预期嘛.模型能力是天花板,工具层决定能不能用到那个天花板.测评是告诉你天花板在哪儿,但你的日常体验还是工具层决定的. 好吧,这个解释我接受.总结一下就是,GPT 6 Sol定位中间层性价比产品,前端能力够用,关键价值是价格合适,适合做AI编程工具的后端底座. 对,而且Sol这个定位和Haiku 5.5,Gemini Flash都在抢同一个市场.中低端推理市场现在越来越卷了. 是啊,价格战还没停.好了,今天就聊到这儿吧,晚上见.