llama-cpp-python
llama.cpp的Python绑定库，使Python生态能够调用llama.cpp推理引擎加载和运行GGUF格式模型，支持GPU加速推理，是本地大模型部署的重要工具
时间轴 (近 90 天)
Sportello chiaro 测试中使用的是通过 llama-cpp-python 运行的 Gemma 3 1B（Q4_K_M）模型。
Miso 的技术栈包括 Python 3.10+、PyQt6、transformers、llama-cpp-python（CPU 推理）、pyttsx3（离线 TTS）和 pynput（闲置检测）
llama-cpp-python 是 llama.cpp 的 Python 绑定库，让 Python 生态能够调用 llama.cpp 的推理引擎来加载运行 GGUF 格式模型
安装 llama-cpp-python 时需下载对应 CUDA 版本预编译的 wheel 文件，因为直接通过 pip 安装往往无法启用 GPU 加速
将Qwen3.8B接入ComfyUI工作流需要安装专用节点包以及llama-cpp-python及对应的Python wheel包
全部知识事实 (5)
Sportello chiaro 测试中使用的是通过 llama-cpp-python 运行的 Gemma 3 1B（Q4_K_M）模型。
50%待验证Miso 的技术栈包括 Python 3.10+、PyQt6、transformers、llama-cpp-python（CPU 推理）、pyttsx3（离线 TTS）和 pynput（闲置检测）
50%待验证llama-cpp-python 是 llama.cpp 的 Python 绑定库，让 Python 生态能够调用 llama.cpp 的推理引擎来加载运行 GGUF 格式模型
50%待验证安装 llama-cpp-python 时需下载对应 CUDA 版本预编译的 wheel 文件，因为直接通过 pip 安装往往无法启用 GPU 加速
50%待验证将Qwen3.8B接入ComfyUI工作流需要安装专用节点包以及llama-cpp-python及对应的Python wheel包
50%