已验证65% 置信事实精确时间
llama.cpp 支持 CPU+GPU 混合推理，通过 --n-gpu-layers 参数控制卸载到 GPU 的层数，并内置兼容 OpenAI API 格式的 HTTP 服务端
3
来源数
65%
置信度
长期有效
时效性
2026/7/17
首次发现
来源
相关事实
已验证llama.cpp支持CPU与GPU的混合推理（层卸载），可将模型部分层加载到GPU显存、其余层保留在内存84% 相似待验证llama.cpp支持在CPU上高效运行量化模型，Ollama提供一体化的本地模型管理和API服务78% 相似已验证llama.cpp支持NVIDIA GPU通过CUDA、AMD GPU通过ROCm、Apple Silicon通过Metal GPU加速，也支持纯CPU推理78% 相似待验证在 llama.cpp 中，--n-gpu-layers N 的含义是把模型最靠近输入端的 N 层参数放在 GPU 上运算，剩余层回退到 CPU。76% 相似待验证llama.cpp 追求底层控制，从量化类型到 GPU 层数都能手动调整，是嵌入式和边缘部署的首选。75% 相似
引用此条事实
Stable URI
https://kongchang.com/claim/537827API
curl https://kongchang.com/api/v1/knowledge/claims/537827MCP
get_claim(id=537827)