待验证50% 置信事实精确时间
LLaMA 3、Mistral、Qwen 2.5 等开源模型在主流消费级 GPU（如 RTX 4090）上已能流畅运行 7B 至 14B 参数规模的版本
1
来源数
50%
置信度
中期 (~90 天)
时效性
2026/9/11
首次发现
有效期至：2026/12/10
来源
涉及实体
相关事实
待验证开源模型可通过 Ollama、llama.cpp、LM Studio 等推理框架在消费级 GPU（如 NVIDIA RTX 4090，显存24GB）上运行75% 相似待验证Qwen3.5-4B可以在单张消费级GPU（如RTX 4090）上高效运行，量化后甚至可以部署在边缘设备上74% 相似待验证Qwen3通过Ollama等工具量化为4-bit精度后，消费级GPU即可流畅运行14B参数规模的版本72% 相似待验证INT4/INT8量化版本模型可在消费级GPU如RTX 4090上运行70B以下参数规模的模型70% 相似待验证Unsloth 支持在消费级显卡（如 RTX 3090/4090）上微调 LLaMA、Mistral、Gemma 等主流模型70% 相似
引用此条事实
Stable URI
https://kongchang.com/claim/907153API
curl https://kongchang.com/api/v1/knowledge/claims/907153MCP
get_claim(id=907153)