待验证60% 置信事实精确时间

4B参数模型（如Phi-3-mini或Llama 3.2 3B）仅需约8GB显存，可以在消费级GPU上运行

2

来源数

60%

置信度

长期有效

时效性

2026/9/3

首次发现

来源

自托管推理vs按Token付费：盈亏平衡点在哪里

涉及实体

Phi-3-minimodel Llama 3.2 3Bmodel

相关事实

待验证使用16GB显存的消费级GPU时，低量化版本能完全塞进显存从而获得极佳运行速度73% 相似待验证Llama 3.1 7B量化后仅需约4-5GB显存即可运行73% 相似待验证MiniCPM 2B的GGUF量化版本Q4_K_M模型体积仅1.56G，可在4G显存设备上流畅运行72% 相似

引用此条事实

Stable URI

https://kongchang.com/claim/851372

API

curl https://kongchang.com/api/v1/knowledge/claims/851372

MCP

get_claim(id=851372)