待验证60% 置信基准精确时间

Apple M2/M3 芯片采用统一内存架构（UMA），llama.cpp 通过 Metal API 可达到约 30-50 tokens/秒的 7B 模型推理速度

2

来源数

60%

置信度

长期有效

时效性

2026/7/6

首次发现

来源

Ollama：175K Star本地大模型一键运行工具

bilibili比比蜡卜2026/7/1

相关事实

待验证llama.cpp项目针对Apple Silicon做了优化，使得在24GB统一内存的Mac上流畅运行7B甚至13B的量化模型成为现实76% 相似待验证端侧推理中，经 4 位量化的 7B 级模型在苹果统一内存上通常只需 4–6 GB 内存，推理速度可达每秒数十个 token。73% 相似已验证对于7B参数模型的4-bit量化版本，通常需要至少8GB内存和现代多核CPU即可流畅运行，推理速度约为每秒10-30个token73% 相似

引用此条事实

Stable URI

https://kongchang.com/claim/115925

API

curl https://kongchang.com/api/v1/knowledge/claims/115925

MCP

get_claim(id=115925)