待验证50% 置信基准精确时间

UP主在4G显存电脑上实测MiniCPM-2B生成速度达每秒57个token，首字生成仅0.22秒

1

来源数

50%

置信度

中期 (~90 天)

时效性

2026/9/19

首次发现

有效期至：2026/12/18

来源

MiniCPM 2B小钢炮本地部署与Agent工具调用实战教程

涉及实体

MiniCPM-2Bmodel

相关事实

待验证在GSM8K上OQ4E用时2450.2秒，8bit高达5471.2秒，耗时差了两倍多77% 相似待验证在配备96GB显存的M2 Max上以1-bit精度运行时，简单任务生成速度稳定在约28-30 tokens/秒75% 相似待验证Gemma量化模型在高性能笔记本电脑上Token生成速度可达每秒20-50个，纯CPU推理约5-15 tokens/秒，INT4量化下NVIDIA RTX 4060/4070可将推理速度提升3-5倍75% 相似待验证在AMD 7900XT显卡上从Ollama换用LM Studio并重新调参后，token生成速度从每秒5提升到3674% 相似

引用此条事实

Stable URI

https://kongchang.com/claim/935200

API

curl https://kongchang.com/api/v1/knowledge/claims/935200

MCP

get_claim(id=935200)