待验证50% 置信事实精确时间
Ornith 1.5 推荐 Q4_K_M 量化时整包约需23G显存，建议按27G以上准备；Qwen 3.8 同档 Q4_K_M 只需16到19G
1
来源数
50%
置信度
中期 (~90 天)
时效性
2026/9/11
首次发现
有效期至：2026/12/10
来源
涉及实体
相关事实
待验证16G显存部署Qwen3 27B只能选到Q3_K_XL的GGUF量化版本，这是16G显存能容纳的精度上限78% 相似待验证3B～4B级别模型如Qwen2.5 3B或Llama 3.2 3B在Q4量化下仅需2～2.5GB显存78% 相似待验证以 V100（16GB 显存）为参考，Ornith 9B 模型 Q6_K 约需 7-8GB 显存，35B MoE 约需 20-22GB 需双卡 V10077% 相似待验证以约160GB的模型（如Qwen3.5-397B的UD-Q3_K_XL量化版本）为例，运行透镜需额外约20GB内存75% 相似已验证Qwen2.5:7B模型Q4量化后文件大小约为4GB74% 相似
引用此条事实
Stable URI
https://kongchang.com/claim/902873API
curl https://kongchang.com/api/v1/knowledge/claims/902873MCP
get_claim(id=902873)