[控场AI]
模型Ternary Bonsai 2 27B / bonsai-2

Ternary Bonsai 2

基于Qwen3.8-27B派生的三值权重量化语言模型,将270亿参数模型压缩至6GB以下,支持WebGPU浏览器本地推理,采用{-1,0,+1}三值权重表示方式

时间轴 (近 90 天)

9月17日

Ternary Bonsai 2(27B)已在 Hugging Face 上发布

待验证50%
9月17日

Ternary Bonsai 2 的模型文件小于6GB

待验证50%
9月17日

Ternary Bonsai 2 可借助 WebGPU 直接在浏览器里本地运行

待验证50%
9月17日

Ternary Bonsai 2 派生自 Qwen3.8-27B,一个采用混合注意力机制的因果语言模型

待验证50%
9月17日

Ternary Bonsai 2 的架构本身没有改变,改变的是权重的表示方式

待验证50%
9月17日

根据模型卡片,Ternary Bonsai 2 体积缩小到FP16的九分之一,同时保留98.2%的智能表现

待验证50%
9月17日

该98.2%智能保留率数据来自发布方自己的模型卡片,尚未经过独立复现和第三方验证

待验证50%
9月17日

发布方提供了基于WebGPU的在线Demo(webml-community/ternary-bonsai-2-webgpu-kernels)

待验证50%

全部知识事实 (8)

来源文章