已过期60% 置信事实精确时间
3B～4B级别模型如Qwen2.5 3B或Llama 3.2 3B在Q4量化下仅需2～2.5GB显存
2
来源数
60%
置信度
中期 (~90 天)
时效性
2026/7/16
首次发现
此条事实已过期，仅作历史留存，不再代表当前状态
有效期至：2026/10/14(已过期)
来源
相关事实
已验证Qwen2.5:7B模型Q4量化后文件大小约为4GB83% 相似待验证Llama 3 70B量化版（Q4精度）仍需约35GB内存78% 相似待验证Ornith 1.5 推荐 Q4_K_M 量化时整包约需23G显存，建议按27G以上准备；Qwen 3.8 同档 Q4_K_M 只需16到19G78% 相似待验证开发者采用Qwen3.6-35B-A3B模型：整体拥有35B权重，处理每个词时只使用3B权重，计算成本与普通4B、8B模型相当，在自己的网关（vLLM）上运行。77% 相似待验证开发者演示中使用了Qwen 3.6 27B模型，并建议硬件条件有限的用户选择更轻量的4B或8B模型76% 相似
引用此条事实
Stable URI
https://kongchang.com/claim/527944API
curl https://kongchang.com/api/v1/knowledge/claims/527944MCP
get_claim(id=527944)