已过期80% 置信事实精确时间

8GB 显存适合运行 7B 模型的 Q4/Q5 量化版（全部层上 GPU），12GB 显存可以运行 14B 模型的 Q4 量化版或 7B 的 Q8 版本

6

来源数

80%

置信度

中期 (~90 天)

时效性

2026/7/2

首次发现

此条事实已过期，仅作历史留存，不再代表当前状态

有效期至：2026/9/30(已过期)

来源

Llama.cpp Windows本地部署教程：免编译三步运行大模型

bilibili乐优科技2026/5/29

相关事实

已验证以 GGUF Q4 量化为基准，7B 模型约需 4-6GB 显存，13B 约需 8-10GB，70B 需 40GB 以上或多 GPU 并行82% 相似已验证Qwen2.5 9B模型在消费级GPU（如8GB显存）上即可流畅运行79% 相似待验证对于8GB显存推荐Llama 3.1 8B Instruct、Qwen2.5 7B Instruct、Mistral 7B配合Q4_K_M量化79% 相似待验证Qwen2 7B模型（70亿参数）运行约需6GB显存78% 相似

引用此条事实

Stable URI

https://kongchang.com/claim/46634

API

curl https://kongchang.com/api/v1/knowledge/claims/46634

MCP

get_claim(id=46634)