待验证50% 置信事实精确时间

MiniCPM 2B的GGUF量化版本Q4_K_M模型体积仅1.56G，可在4G显存设备上流畅运行

1

来源数

50%

置信度

中期 (~90 天)

时效性

2026/9/19

首次发现

有效期至：2026/12/18

来源

MiniCPM 2B小钢炮本地部署与Agent工具调用实战教程

涉及实体

MiniCPM 2Bmodel Q4_K_Mconcept GGUFconcept

相关事实

待验证TwIL-LM 的 3B 版本在 Q4_K_M 量化下约 1.78 GiB，可以跑在 CPU 或仅 4GB 显存的设备上79% 相似待验证MiniCPM和Qwen-0.5B等1B以下轻量模型配合INT4量化可以在手机芯片上运行76% 相似待验证3B～4B级别模型如Qwen2.5 3B或Llama 3.2 3B在Q4量化下仅需2～2.5GB显存76% 相似待验证Qwythos-9B的Q4量化版本仅需4GB显存即可本地部署运行76% 相似待验证16G显存部署Qwen3 27B只能选到Q3_K_XL的GGUF量化版本，这是16G显存能容纳的精度上限75% 相似

引用此条事实

Stable URI

https://kongchang.com/claim/935199

API

curl https://kongchang.com/api/v1/knowledge/claims/935199

MCP

get_claim(id=935199)