待验证60% 置信事实精确时间
llama.cpp是由Georgi Gerganov开发的纯C/C++推理引擎，支持Q4_0、Q4_K_M、Q5_K_M等多种量化格式
2
来源数
60%
置信度
长期有效
时效性
2026/8/9
首次发现
来源
相关事实
已验证llama.cpp是由Georgi Gerganov开发的纯C/C++推理引擎，支持在纯CPU环境下运行大模型79% 相似待验证llama.cpp 是由 Georgi Gerganov 开发的 C++ 推理引擎，通过量化技术将模型权重从32位浮点数压缩为4位或8位整数79% 相似待验证llama.cpp由保加利亚工程师Georgi Gerganov于2023年3月发布，最初用数百行C/C++重现Meta LLaMA模型的推理逻辑76% 相似待验证GGUF 是 llama.cpp 和 Ollama 使用的量化格式，包含 Q4_K_M、Q5_K_M 等策略，后缀字母代表不同量化策略74% 相似已验证llama.cpp项目将GGUF量化格式推向主流，支持从Q2_K到Q8_0等多种精度等级71% 相似
引用此条事实
Stable URI
https://kongchang.com/claim/719444API
curl https://kongchang.com/api/v1/knowledge/claims/719444MCP
get_claim(id=719444)