待验证50% 置信事实精确时间

该1-bit量化的27B模型能够在仅8GB内存的设备上运行

1

来源数

50%

置信度

中期 (~90 天)

时效性

2026/8/25

首次发现

有效期至：2026/11/23

来源

1-bit量化突破：27B大模型跑进8GB内存

涉及实体

相关事实

待验证Unsloth推出的1-bit量化版本将27B参数级别的模型压缩至仅6-8GB78% 相似已验证一个原本需要60GB显存的30B参数模型，经过量化后能在16GB甚至8GB显存的消费级显卡上运行76% 相似待验证在16GB内存硬件条件下只能容纳5GB以内的模型，因此该开发者使用了体积约4.8GB的Qwen 2.5 7B 4bit量化模型，配8K上下文窗口75% 相似待验证典型的TinyML设备RAM仅有256KB到1MB75% 相似

引用此条事实

Stable URI

https://kongchang.com/claim/798064

API

curl https://kongchang.com/api/v1/knowledge/claims/798064

MCP

get_claim(id=798064)