#本地部署
共 414 篇相关文章
产品体验GPT-OSS 120B/20B开源模型深度测评：幻觉、推理、代码全面实测
OpenAI开源GPT-OSS 120B和20B模型全面测评，涵盖幻觉测试、逻辑推理、代码生成、SQL查询、文档分析等多维度实测，附部署方式与选型建议，助你选择最适合的开源大模型。
教程攻略OpenAI开源GPT-OSS：16G显存跑O4级模型，部署教程全解析
OpenAI正式开源GPT-OSS系列模型（20B/120B），采用MOE架构+FP4混合精度，单卡4090即可运行O3级推理模型。本文详解核心技术、性能评测及Ollama/vLLM等四种本地部署方案。
产品体验UI-Tars Desktop实测：安装部署教程与Claude Bot对比评测
详细实测字节跳动开源AI Agent工具UI-Tars Desktop，手把手教你本地安装配置，完成三项任务测试，并与Claude Bot、NanoBot横向对比，解析其开源免费、本地运行的核心优势与现存不足。
教程攻略Codex+Ollama本地部署教程：零成本搭建AI编程助手
手把手教你用Codex搭配Ollama在本地部署免费AI编程助手，涵盖硬件检测、Ollama安装、Gemma/Qwen模型下载与接入配置全流程，轻松实现隐私安全的本地AI编程工作流。
教程攻略Ollama+OpenCode本地部署AI编程：零成本替代Cursor的完整方案
详细教程：通过Ollama本地部署千问3 Coder大模型，配合OpenCode开源编程工具，实现零成本AI编程。涵盖环境搭建、代码生成、自动调试全流程，附硬件配置建议。
产品体验GPT-OSS 120B本地部署实测：代码生成、推理能力全面对比O4 Mini
实测OpenAI首个开源推理模型GPT-OSS 120B，通过Ollama本地部署，从代码生成、逻辑推理、UI设计等维度全面评测，与O4 Mini深度对比，揭示这款开源模型的真实水平与部署踩坑经验。
深度解读阿里QwQ-32B开源：32B参数如何媲美671B的DeepSeek R1
阿里开源推理模型QwQ-32B仅用32B参数，在多项基准测试中媲美甚至超越DeepSeek R1满血版（671B）。本文深度解析其两阶段强化学习训练策略、性能对比数据，以及强化学习带来的能力涌现现象，揭示小参数模型以小博大的核心秘密。
教程攻略GPT-OSS开源模型本地部署教程：实测效果与显存占用分析
详细介绍OpenAI开源GPT-OSS模型的本地部署全流程，使用Ollama在RTX 4090上实测20B版本的中文理解、逻辑推理等能力表现，分析MoE架构下的显存占用与硬件需求。
教程攻略Whisper本地部署教程：手把手搭建免费语音转文字工具
详细图文教程教你在本地部署OpenAI Whisper语音识别工具，涵盖Conda环境配置、PyTorch安装、模型选择到实际转录操作全流程，支持近百种语言，免费生成SRT字幕文件。
教程攻略GPT-OSS本地部署教程：Ollama一键运行OpenAI开源模型
详解OpenAI开源模型GPT-OSS的本地部署方法，涵盖20B/120B版本对比、Ollama安装配置、硬件要求及实测效果，助你在家用电脑上离线运行接近ChatGPT水平的AI模型。
产品体验Gemma 4深度体验：谷歌顶级AI免费离线运行实测
深度体验谷歌Gemma 4开源AI模型，涵盖本地部署教程、与ChatGPT正面对比、手机离线运行演示。四种模型尺寸从手机到工作站全覆盖，通过LM Studio零代码搭建，数据完全私密且永久免费。
教程攻略GPT-OSS-20B私有化部署教程：硬件选型+部署流程+效果实测
详解OpenAI开源GPT-OSS-20B本地私有化部署全流程，涵盖显卡选型（RTX 5090/V100/4070Ti）、Linux环境部署步骤、API调用配置及实测效果，附120B模型硬件方案对比，助你低成本搭建企业级AI服务。
教程攻略LocalAI教程：无需GPU本地部署大模型，Docker一键搞定
详解LocalAI本地部署教程，无需GPU即可运行近千种开源大模型。通过Docker一键部署，兼容OpenAI API接口，支持对话、文生图、语音等多模态功能，数据完全本地化，隐私安全有保障。
科技前沿Hugging Face开源Agent生态全解：从本地部署到AI自动训练
深度解析Hugging Face开源Agent生态系统：开源模型已追平闭源表现，本地Agent部署方案对比（Hermes/LLama/Plandex），Skills系统实现对话式自动训练模型，MCP集成实战案例，一文掌握AI Agent开发全链路。
产品体验localOCR：本地部署的开源OCR方案，支持Gemma-4等视觉模型
localOCR是一款基于Gemma-4、Llama 3.2等视觉语言模型的本地OCR开源工具，支持离线运行，保障数据隐私。本文详解其技术架构、多模型支持、适用场景及相比传统OCR的核心优势。
产品体验Open WebUI：13万Star开源AI界面，部署教程与功能全解析
深度解析Open WebUI这款13.5万Star的开源AI交互界面，涵盖Ollama集成、Docker一键部署、RAG文档问答、多用户管理等核心功能，助你快速搭建本地AI助手或企业AI平台。
产品体验AnythingLLM完全指南：本地部署的隐私AI助手
深度解析AnythingLLM开源项目，一款隐私优先、零配置的本地AI生产力工具。支持RAG知识库、多模型切换、文档对话，GitHub近6万Star，适合企业和个人本地部署使用。
教程攻略Unsloth教程：本地微调大模型省显存提速5倍
详解Unsloth开源工具如何通过LoRA优化和Web UI界面，让消费级显卡也能高效微调Gemma 4、Qwen3、DeepSeek等主流大模型，训练速度提升2-5倍，显存降低50%-70%。
教程攻略Unsloth教程：本地微调大模型速度提升数倍，显存节省60%
Unsloth是GitHub 63K星标的开源大模型微调工具，支持Gemma 4、Qwen3、DeepSeek等模型。通过底层内核优化实现训练加速数倍、显存大幅降低，消费级GPU即可完成微调，提供Web UI图形界面，适合个人开发者和企业私有化部署。
产品体验Unsloth：本地微调大模型的高效开源工具
Unsloth是GitHub上超63000星的开源项目，提供Web UI界面支持本地训练和微调Gemma 4、Qwen3、DeepSeek等主流大模型，大幅降低硬件门槛和技术难度，适合个人开发者和企业私有化部署。