#本地部署大模型
共 24 篇相关文章
教程攻略·7 分钟
Ollama入门指南：本地部署开源大模型的最佳工具
详解Ollama本地大模型管理工具的核心功能与特点，包括免费开源、跨平台支持、智能GPU/CPU调度、API集成等能力，帮助你零成本在本地运行DeepSeek等开源大模型。
阅读全文 →
教程攻略·7 分钟
Ollama本地部署大模型：三步完成安装到对话
详细介绍如何使用Ollama在本地电脑部署大语言模型，涵盖下载安装、模型选择、一键部署到对话的完整流程，无需编程基础，支持离线运行且完全免费。
阅读全文 →
产品体验·9 分钟
Google Gemma 4实测：手机离线运行+Ollama部署教程
实测Google Gemma 4开源模型在三台手机上的离线运行表现，详解Dense与MOE架构区别，附Ollama + Claude Code完整部署教程。从1B到31B四款模型覆盖手机到工作站全场景，4GB显存即可运行。
阅读全文 →
产品体验·8 分钟
WhichLLM：一键检测你的电脑最适合跑哪个本地大模型
WhichLLM 是一款开源工具，能自动检测电脑硬件配置，结合权威评测数据推荐最适合本地运行的大语言模型。支持模拟任意显卡配置、过滤虚假评测、一键下载开聊，帮你告别选模型的纠结。
阅读全文 →
教程攻略·9 分钟
一人管三机：本地Agent部署与多机协同运维实战
通过部署Cloud Code和Hermes等多个AI Agent，实现一人管理三台物理主机的高效运维。详解Ventoy单文件部署方案、BTRFS+RAW Image技术选型、Agent分工策略与风险控制，打造最小代价最大产出的个人运维体系。
阅读全文 →
教程攻略·7 分钟
DeepSeek-V3+VSCode搭建低成本AI代码编辑器教程
详细教程：用DeepSeek-V3 API配合VSCode的Continue插件，搭建低成本AI编程助手。涵盖安装配置、API Key获取、代码补全演示及Ollama本地部署零成本替代方案。
阅读全文 →
产品体验·7 分钟
Hertzman木马人：免费免安装的本地大模型部署工具评测
详细评测Hertzman木马人本地推理引擎，涵盖一键部署、智能硬件推荐、OpenAI兼容API接口等核心功能，并与LM Studio进行性能对比，帮你快速上手本地大模型。
阅读全文 →
教程攻略·7 分钟
PyCharm配置本地DeepSeek模型实现AI辅助编程完整教程
详细介绍如何通过Ollama在PyCharm中配置本地DeepSeek模型，实现免费、隐私安全的AI辅助编程。包含安装步骤、插件配置、使用技巧及硬件建议。
阅读全文 →
教程攻略·8 分钟
DeepSeek V4 Flash MTP推测解码实测：本地推理提速20%指南
实测DeepSeek V4 Flash开启MTP推测解码后的性能表现：代码生成场景提速约20%，文本生成提升有限。详解内存开销、准确性差异、Q4与Q3量化对比，以及通过Inference应用和OpenAI兼容API的完整部署教程。
阅读全文 →
教程攻略·7 分钟
Ollama本地部署大模型完全指南：断网也能用的AI
详解Ollama本地部署开源大模型的完整流程，涵盖安装配置、模型选择、显存要求及实际效果对比。支持Llama 3、通义千问等主流模型，零成本、断网可用，轻松打造私有AI工作站。
阅读全文 →
产品体验·6 分钟
三个AI Agent实测对比：电商直播数据分析谁更强？
实测三个AI Agent处理电商直播数据分析的真实表现：本地部署内存不足、海外API成本高昂、云端多模型方案如何破局？从弹幕情绪分析到高转化话术提炼，看AI Agent在直播运营中的落地效果与选型建议。
阅读全文 →
教程攻略·5 分钟
Ollama本地部署大模型教程：安装配置到API调用全流程
详解Ollama本地部署开源大模型的完整流程，涵盖安装配置、模型选择与量化策略、Python代码调用API、性能优化等实战技巧，帮你快速在本地运行Qwen、Llama等大模型。
阅读全文 →
产品体验·5 分钟
QwenCoder本地部署实测：能否替代付费AI编程助手？
实测QwenCoder 80B本地部署效果，对比Gemini、Claude等付费AI编程工具。详解硬件配置、LM Studio部署方案及实际编程能力测试结果，帮你判断本地模型能否省下AI订阅费。
阅读全文 →
教程攻略·6 分钟
本地部署大模型怎么判断显存爆了？一文看懂显存监控方法
本地部署大模型时如何判断显存是否爆满？本文详解专用显存与共享GPU内存的区别，教你通过任务管理器快速判断显存溢出，并提供模型量化、上下文长度控制等避免爆显存的实用建议。
阅读全文 →
教程攻略·9 分钟
Ollama+OpenCode本地部署AI编程：零成本替代Cursor的完整方案
详细教程：通过Ollama本地部署千问3 Coder大模型，配合OpenCode开源编程工具，实现零成本AI编程。涵盖环境搭建、代码生成、自动调试全流程，附硬件配置建议。
阅读全文 →
产品体验·9 分钟
GPT-OSS 120B本地部署实测：代码生成、推理能力全面对比O4 Mini
实测OpenAI首个开源推理模型GPT-OSS 120B，通过Ollama本地部署，从代码生成、逻辑推理、UI设计等维度全面评测，与O4 Mini深度对比，揭示这款开源模型的真实水平与部署踩坑经验。
阅读全文 →
教程攻略·8 分钟
LocalAI教程：无需GPU本地部署大模型，Docker一键搞定
详解LocalAI本地部署教程，无需GPU即可运行近千种开源大模型。通过Docker一键部署，兼容OpenAI API接口，支持对话、文生图、语音等多模态功能，数据完全本地化，隐私安全有保障。
阅读全文 →
教程攻略·10 分钟
Claude Code入门指南：安装配置教程与主流AI编程工具对比
详解Claude Code安装配置流程及国内使用注意事项，横向对比Cursor、Copilot、Trae等主流AI编程工具，帮助开发者选择最适合的AI编程助手，提升开发效率。
阅读全文 →
产品体验·6 分钟
IBM Granite 4.1开源模型：21种GGUF量化版本SVG生成实测对比
IBM发布Granite 4.1系列Apache 2.0开源大模型，Unsloth提供21种GGUF量化变体。Simon Willison用鹈鹕骑自行车SVG提示词逐一测试，揭示3B模型量化精度与输出质量的真实关系。
阅读全文 →
教程攻略·8 分钟
Ollama教程：本地运行DeepSeek等大模型的最简方案
详解Ollama本地部署大模型的完整指南，支持DeepSeek、Qwen、Kimi-K2.5等主流模型。了解这款17万Star开源工具如何实现一键安装、离线推理，以及适用场景与生态集成方案。
阅读全文 →