待验证60% 置信事实精确时间
llama.cpp 是由 Georgi Gerganov 开发的 C++ 推理引擎，通过量化技术将模型权重从32位浮点数压缩为4位或8位整数
2
来源数
60%
置信度
长期有效
时效性
2026/7/20
首次发现
来源
相关事实
待验证llama.cpp是由Georgi Gerganov开发的纯C/C++推理引擎，支持Q4_0、Q4_K_M、Q5_K_M等多种量化格式79% 相似已验证llama.cpp是由Georgi Gerganov开发的纯C/C++推理引擎，支持在纯CPU环境下运行大模型78% 相似待验证llama.cpp由保加利亚工程师Georgi Gerganov于2023年3月发布，最初用数百行C/C++重现Meta LLaMA模型的推理逻辑74% 相似待验证Ollama 底层基于 llama.cpp 的量化推理引擎，通过 4-bit/8-bit 量化技术降低显存占用68% 相似待验证Llama.cpp 通过量化技术可将模型权重从 Float16 精度压缩到 int8 甚至 int468% 相似
引用此条事实
Stable URI
https://kongchang.com/claim/569075API
curl https://kongchang.com/api/v1/knowledge/claims/569075MCP
get_claim(id=569075)