#本地部署

共 329 篇相关文章

深度解析AnythingLLM开源AI平台，涵盖本地大模型部署、RAG知识库构建、隐私计算等核心功能。GitHub 59K+ Star，零配置开箱即用，适合个人知识管理与企业内部AI部署。

IBM Granite 4.1开源模型发布，Unsloth提供21种GGUF量化版本。Simon Willison用鹈鹕骑自行车SVG测试发现：3B小模型中量化级别对生成质量影响微乎其微，最小模型反而画出最好的自行车。

Unsloth 是 GitHub 6.3万星标的开源大模型训练工具，支持 Gemma 4、Qwen3、DeepSeek 等主流模型的本地微调与部署。提供 Web UI 界面，显存占用降低50%，训练速度提升2-5倍，适合企业和个人开发者使用。

全面解析Hugging Face Transformers开源框架，涵盖pipeline API三行代码跑模型、Hub生态80万预训练模型整合、Trainer训练工具链及多模态支持。掌握这个16万Star AI框架的核心用法与技术架构。

详解Chatbox开源AI桌面客户端的核心功能，包括GPT-4o、Claude多模型切换、数据本地化存储、跨平台支持等。附竞品对比表格与典型使用场景，帮你快速判断是否值得安装。

深度解析InvokeAI这款基于Stable Diffusion的开源创意引擎，剖析其技术架构、生态定位与商业化路线，探讨它在AI绘画工具竞争中的真实处境。

星野猫箱关停后，AI角色扮演难民何去何从？本文深度解析AI聚合平台的功能、模型对比及使用体验，涵盖DeepSeek、ChatGPT、Grok等主流大模型实测。

深度解析Unsloth开源项目：通过Web UI实现本地大模型微调与推理，支持Gemma 4、Qwen3.6、DeepSeek等主流模型，显存降低70%，速度提升5倍。

Ollama是GitHub上17万星标的开源本地大模型部署工具，一行命令即可运行DeepSeek、Qwen、Kimi-K2.5、GLM-5等主流模型。本文详解Ollama的核心优势、支持模型及本地推理的深层意义。