#本地部署
共 96 篇相关文章
教程攻略·6 分钟
Bolt.diy本地部署教程：免费开源的AI全栈开发工具
Bolt.diy是Bolt.new的开源替代方案，支持自由接入OpenAI、Claude等大模型，本地部署零订阅费。本文详解安装配置流程、模型选择方案及适用场景，助你低成本实现AI全栈开发。
阅读全文 →
教程攻略·5 分钟
Ollama本地部署大模型教程：安装配置到API调用全流程
详解Ollama本地部署开源大模型的完整流程，涵盖安装配置、模型选择与量化策略、Python代码调用API、性能优化等实战技巧，帮你快速在本地运行Qwen、Llama等大模型。
阅读全文 →
教程攻略·2 分钟
6分钟本地运行Claude Code泄露版教程（零基础可上手）
详细图文教程教你6分钟内本地部署运行Claude Code泄露版，无需编程基础，通过Trae IDE和MiniMax API即可完成安装配置，体验专业级AI编程能力。
阅读全文 →
产品体验·4 分钟
DeepSeek V4深度解析：编码能力全面超越GPT-4.0的三大核心技术
DeepSeek V4模型深度技术解析：百万级上下文窗口、N-gram记忆架构、MHC流形约束超连接三大突破，编码基准全面超越Claude和GPT-4.0，成本仅为竞品十分之一，支持双RTX 4090本地部署。
阅读全文 →
教程攻略·6 分钟
免费使用Claude Code：CC Switch+Ollama本地模型驱动AI编程Agent教程
详细教程教你通过CC Switch将本地Ollama模型伪装成Claude API，零成本驱动Claude Code桌面版进行AI编程。涵盖安装配置、模型选择、实测效果，支持千问、Gemma等开源模型。
阅读全文 →
教程攻略·6 分钟
Docker Model Runner使用教程：一条命令本地运行AI模型
详解Docker Model Runner的安装配置与实战用法，通过Docker Compose集成本地AI模型，兼容OpenAI API接口，实现零配置本地部署LLM大模型，附完整聊天应用开发示例。
阅读全文 →
产品体验·5 分钟
QwenCoder本地部署实测：能否替代付费AI编程助手？
实测QwenCoder 80B本地部署效果，对比Gemini、Claude等付费AI编程工具。详解硬件配置、LM Studio部署方案及实际编程能力测试结果，帮你判断本地模型能否省下AI订阅费。
阅读全文 →
教程攻略·7 分钟
DeepSeek本地部署教程：Ollama一键安装运行指南
详细讲解如何通过Ollama在本地部署DeepSeek R1大模型，包括安装步骤、模型版本选择、硬件配置要求及进阶玩法，零基础10分钟搞定私有化AI部署。
阅读全文 →
教程攻略·6 分钟
本地部署大模型怎么判断显存爆了？一文看懂显存监控方法
本地部署大模型时如何判断显存是否爆满？本文详解专用显存与共享GPU内存的区别，教你通过任务管理器快速判断显存溢出，并提供模型量化、上下文长度控制等避免爆显存的实用建议。
阅读全文 →
产品体验·4 分钟
Qwen3.6量化版本地部署实测：NVFP4、APEX、Q4、Q6哪个最值得选
实测Qwen3.6系列7-8个量化模型在工具调用、命令行操作、Bug修复、数学推理等8大维度的表现，对比NVFP4、APEX、Q4、Q6量化方案，附总分排名与选购建议，帮你找到最适合本地部署的量化版本。
阅读全文 →
科技前沿·3 分钟
Qwen3.6 35B开源实测逼近Claude，xAI语音克隆API正式上线
阿里开源Qwen3.6 35B模型，256专家MoE架构仅需3B激活参数，SWE Bench成绩逼近Claude Opus。xAI发布Voice Cloning API支持28种语言，NVIDIA开源OpenShell安全沙箱，Sam Altman表态模型智力优先。
阅读全文 →
教程攻略·6 分钟
Hermes + Qwen3.6 本地部署教程：零成本搭建私有AI Agent
详细教程教你用Hermes Agent搭配Qwen3.6开源大模型，在本地零成本部署私有AI助手。涵盖WSL环境配置、模型下载启动、Telegram机器人对接及开机自启设置，实现无限Token、数据私有的AI Agent体验。
阅读全文 →
教程攻略·5 分钟
vLLM与SGLang本地部署教程：性能提升3-8倍的实战指南
详解vLLM和SGLang本地部署全流程，对比LM Studio性能差距，通过Docker+AI助手三步完成部署。涵盖SGLang与vLLM选型建议、5090显存优化、Qwen3模型推荐及Cherry Studio接入方法。
阅读全文 →
科技前沿·2 分钟
悟空2.2P开源：35B MOE模型性能超越Qwen3.6-27B，速度快3-5倍
悟空2.2P 35B MOE模型正式开源，采用对抗式杂交蒸馏技术，综合性能超越Qwen3.6-27B。4090显卡Q5量化达158 tokens/s，仅需8.9G显存即可运行，支持256K上下文。详解核心技术、硬件配置与实测数据。
阅读全文 →
科技前沿·4 分钟
Qwen3.6 MTP加速实测：单GPU推理飙到220 token/s
Qwen3.6实验性MTP-GGUF版本实测，单GPU将35B-A3B模型推理速度提升至220 token/s，比原版快1.4倍且精度零损失。详解MTP原理、最优Draft Tokens策略及RTX 5090实测数据。
阅读全文 →
教程攻略·6 分钟
本地部署DeepSeek+RAG知识库教程：Ollama+RAGFlow保姆级指南
手把手教你用Ollama本地部署DeepSeek大模型，结合RAGFlow搭建RAG私有知识库。涵盖环境配置、Docker部署、Embedding原理讲解，支持离线运行，保障数据隐私，轻松实现企业级智能问答。
阅读全文 →
教程攻略·3 分钟
RAGFlow本地部署教程：Docker搭建企业级RAG知识库全流程
详解RAGFlow本地部署全流程，涵盖RAG技术原理、Docker环境配置、Ollama大模型接入、知识库创建与对话测试。手把手教你从零搭建企业级知识库问答系统，实现数据私有化部署。
阅读全文 →
教程攻略·4 分钟
DeepSeek+RAGFlow本地部署AI知识库教程（2025最新）
手把手教你用DeepSeek+RAGFlow+Ollama本地部署个人AI知识库。涵盖RAG原理解析、Ollama安装、Docker部署RAGFlow、知识库创建与调优全流程，数据完全私有，零基础可上手。
阅读全文 →
教程攻略·6 分钟
Anima二次元大模型：6G显存本地部署与工作流配置教程
详解Anima二次元动漫AI绘图大模型的本地部署方法，仅需6G显存即可流畅运行。涵盖ComfyUI工作流配置、文生图参数设置、高清放大技巧及低显存优化建议，适合中低端显卡用户。
阅读全文 →
产品体验·6 分钟
Open Design：开源AI设计框架，连接现有编程智能体
Open Design 是本地优先的 Apache 2.0 开源设计框架，支持连接 Claude Code、Cursor、Gemini CLI 等编程智能体，内置19种可组合技能和71套 Design.md 设计系统，实现高质量UI设计生成与本地私有化部署。
阅读全文 →