Qwen 3.8 27B
阿里巴巴Qwen系列的27B参数开源模型,基于Qwen 3.5架构,原生支持视觉语言多模态,采用混合注意力设计(门控DeltaNet+门控注意力),专为本地智能体部署优化
核心事实
时间轴 (近 90 天)
Qwen 3.8 27B 是混合架构,64 层里只有 16 层是全注意力,KV 缓存开销相对可控,上下文拉长后显存依然够用。
在 AMD Radeon RX 9060 XT 16GB 显卡上使用 IQ3 量化版本(10.9GB)和 llama.cpp Vulkan 后端,提示词本身有 104,813 个 token,比 Astra 处理同一段文本多出 42%,读取十万多个 token 花了将近 30 分钟,模型思考 18 分钟写了 4,700 个 token 仍未说出游戏名字。
Simon Willison 使用 LM Studio 加载 17GB 的 Qwen 3.8 27B Q4 版本,在笔记本上复现,Breakout、Pong、Pac-Man 正确,Freeway 失败(猜成 Pac-Man),四中三。
Simon Willison 使用 Qwen 3.8 27B 模型在个人笔记本上复现了权重空间编程实验,模型文件约17GB。
消费级硬件上的本地模型目前确实可以处理自身的原始权重。
在 Willison 的实验中,一次回答消耗了46分钟和43,506个推理token。
截至文章发稿,Qwen 3.8 27B能解读模型权重的说法仅来自单一社区帖子,尚未得到官方确认或第三方独立验证。
Reddit上有一则帖子声称Qwen 3.8 27B和GPT-6 Astra一样能够解读模型权重。
Simon Willison使用LLM命令行工具配合LM Studio运行Qwen 3.8 27B(17GB,Q4_K_M量化)进行复现实验
Qwen 3.8 27B在四个游戏猜测任务中猜中了三个(Pac-Man、Pong、Breakout),猜错了Freeway
还有 26 条时间轴事件
全部知识事实 (20)
Qwen3.8-27B在前端展示等特定场景表现惊艳,可能是目前本地部署大模型中效果最好的之一,相比Meta 30B模型和千问3.6-27B有明显能力提升
75%已验证27B参数模型可在配备24GB显存的消费级显卡(如NVIDIA RTX 4090)上以量化形式运行,无需数据中心级硬件
65%待验证Qwen 3.8 27B采用混合架构,64层中大部分使用门控DeltaNet层,定期穿插门控全注意力层
60%待验证Qwen 3.8 27B采用开放权重模式,配合Apache 2.0等宽松许可证,允许商业使用和二次开发
60%待验证在 AMD Radeon RX 9060 XT 16GB 显卡上使用 IQ3 量化版本(10.9GB)和 llama.cpp Vulkan 后端,提示词本身有 104,813 个 token,比 Astra 处理同一段文本多出 42%,读取十万多个 token 花了将近 30 分钟,模型思考 18 分钟写了 4,700 个 token 仍未说出游戏名字。
50%待验证Qwen 3.8 27B 是混合架构,64 层里只有 16 层是全注意力,KV 缓存开销相对可控,上下文拉长后显存依然够用。
50%待验证Simon Willison 使用 LM Studio 加载 17GB 的 Qwen 3.8 27B Q4 版本,在笔记本上复现,Breakout、Pong、Pac-Man 正确,Freeway 失败(猜成 Pac-Man),四中三。
50%待验证消费级硬件上的本地模型目前确实可以处理自身的原始权重。
50%待验证在 Willison 的实验中,一次回答消耗了46分钟和43,506个推理token。
50%待验证截至文章发稿,Qwen 3.8 27B能解读模型权重的说法仅来自单一社区帖子,尚未得到官方确认或第三方独立验证。
50%待验证Qwen 3.8 27B在四个游戏猜测任务中猜中了三个(Pac-Man、Pong、Breakout),猜错了Freeway
50%待验证Simon Willison使用LLM命令行工具配合LM Studio运行Qwen 3.8 27B(17GB,Q4_K_M量化)进行复现实验
50%待验证Flint 在接近 Qwen 3.8 27B 性能的同时速度提升 3-6 倍,在 SWE Bench Pro、VR Verified、Terminal Bench 2.1 等基准中是同类 50B 以下 MoE 模型中表现最佳者。
50%待验证Claude Haiku 5.5每月仅需27美元,速度达每秒235个token,在Artificial Analysis智能指数上比Qwen 3.8 27B高约10分。
50%待验证以Qwen 3.8 27B为例,一台4000美元的电脑用三年分摊每月约144美元,每秒约50个token,在Artificial Analysis智能指数上得分约34。
50%待验证该用户此前的主力模型是Qwen 3.8 27B,采用Q6量化与kv8配置。
50%待验证Qwen Image模型文件占用高达25GB,需要预留足够的磁盘空间。
50%待验证Jordan Ilchif在32GB M4 MacBook Air上测试Qwen 3.8 27B,Ollama的NVFP4构建跑出17.2 tokens/s,纯MLX 6.6 tokens/s,LLAMA.cpp 4.4 tokens/s,但格式不同
50%待验证Vercel AI Gateway 切换至 Ling 3.1 Flash,Tempr Gateway 改用 MiMo V2.6 Flash,CrossModel 与 Ofox 转向 Claude Sonnet 5.5,Pioneer 采用 GLiNER 2.5 Decide,Scaleway 使用 Qwen 3.8 27B
50%待验证开发者通过10 Gb/s的USB-C数据线将iPhone 17 Pro Max接入24GB内存的M4 Pro MacBook,让手机充当第二块GPU为本地运行的Qwen 3.8 27B(IQ4_XS量化)模型分担计算
50%