#量化模型
共 61 篇相关文章
产品体验·4 分钟
Qwen3.6量化版本地部署实测：NVFP4、APEX、Q4、Q6哪个最值得选
实测Qwen3.6系列7-8个量化模型在工具调用、命令行操作、Bug修复、数学推理等8大维度的表现，对比NVFP4、APEX、Q4、Q6量化方案，附总分排名与选购建议，帮你找到最适合本地部署的量化版本。
阅读全文 →
产品体验·4 分钟
Qwen3.6 27B三大邪修量化模型实测：代码暴增15.8PP、40B蒸馏、16GB适配
实测对比三款基于Qwen3.6 27B的社区邪修量化模型：OmniMerge V4代码能力提升15.8个百分点，40B OPUS蒸馏版支持角色扮演与创意写作，16GB特化版让小显存也能跑稠密模型。附显存要求、参数设置与选型建议。
阅读全文 →
产品体验·10 分钟
星火WinShape实测：Windsurf自动换号无限用Claude Opus靠谱吗
实测星火WinShape插件实现Windsurf账号自动无感切换，批量管理账号持续使用Claude Opus模型。详细拆解使用流程、核心功能与风险分析，并推荐更稳妥的合规替代方案。
阅读全文 →
教程攻略·4 分钟
DeepSeek+RAGFlow本地部署AI知识库教程（2025最新）
手把手教你用DeepSeek+RAGFlow+Ollama本地部署个人AI知识库。涵盖RAG原理解析、Ollama安装、Docker部署RAGFlow、知识库创建与调优全流程，数据完全私有，零基础可上手。
阅读全文 →
教程攻略·11 分钟
NVIDIA Model Optimizer训练后量化(PTQ)实战指南
深入解析NVIDIA Model Optimizer训练后量化(PTQ)工作流，涵盖INT8/INT4量化原理、校准方法、RTX GPU优化策略及大语言模型量化部署最佳实践，助你在消费级显卡上高效运行大模型。
阅读全文 →
教程攻略·6 分钟
AI大模型入门指南：显卡配置要求与核心技术栈详解
2025年AI大模型入门完整指南，详解本地部署显卡显存配置要求（4090/24GB），以及提示词工程、Agent智能体、MCP协议、LangGraph工作流等核心技术栈的学习路径。
阅读全文 →
教程攻略·10 分钟
Google AI Studio 使用教程：零代码开发AI应用完全指南
详解Google AI Studio的界面布局、Gemini模型选择、参数调优技巧，以及如何用Build功能零代码开发并发布AI应用。涵盖图片、视频、音乐生成实战案例，附新手上手路径。
阅读全文 →
产品体验·8 分钟
Sim Studio：近万Star开源AI Agent工作流平台深度解析
深度解析开源AI工作流平台Sim Studio，GitHub近10K Star，采用Apache 2.0协议，支持完全本地部署和Ollama本地大模型接入。与Dify、n8n横向对比，零代码拖拽构建AI Agent智能体。
阅读全文 →
科技前沿·10 分钟
Claude额度暴降20倍，GLM 4.6能否成为最佳平替？
Anthropic大幅削减Claude Max套餐Opus额度，开发者纷纷出走。GLM 4.6以十分之一API价格、20万上下文窗口和开放权重优势强势入局，本文从定价、性能、开发体验三个维度详细对比，帮你找到最具性价比的AI编程工具。
阅读全文 →
产品体验·9 分钟
VS Code AI Toolkit 2.0详解：Agent构建器+免费用GPT-5
深入解析VS Code AI Toolkit 2.0重大更新，涵盖Agent构建器、MCP工具集成、批量测试、模型评估等核心功能，以及通过GitHub Models免费使用GPT-5、Claude等顶级模型的完整指南。
阅读全文 →
教程攻略·9 分钟
Ollama+OpenCode本地部署AI编程：零成本替代Cursor的完整方案
详细教程：通过Ollama本地部署千问3 Coder大模型，配合OpenCode开源编程工具，实现零成本AI编程。涵盖环境搭建、代码生成、自动调试全流程，附硬件配置建议。
阅读全文 →
教程攻略·8 分钟
GPT-OSS开源模型本地部署教程：实测效果与显存占用分析
详细介绍OpenAI开源GPT-OSS模型的本地部署全流程，使用Ollama在RTX 4090上实测20B版本的中文理解、逻辑推理等能力表现，分析MoE架构下的显存占用与硬件需求。
阅读全文 →
教程攻略·8 分钟
LocalAI教程：无需GPU本地部署大模型，Docker一键搞定
详解LocalAI本地部署教程，无需GPU即可运行近千种开源大模型。通过Docker一键部署，兼容OpenAI API接口，支持对话、文生图、语音等多模态功能，数据完全本地化，隐私安全有保障。
阅读全文 →
观点碰撞·9 分钟
AI周报：Qwen3VL本地部署、Karpathy Agent观点与AI炒币实验
AI周报终章涵盖Qwen3VL多版本发布及M1 MacBook本地部署实测、Claude Haiku 4.5编程能力评测、Karpathy nano-chat开源项目与Agent十年论、Nof1让7个AI模型用真金白银炒币的社会实验，以及AI生成内容超越人类产出的深度观察。
阅读全文 →
教程攻略·10 分钟
DeepSeek R1+BrowserUse：免费开源浏览器自动化方案搭建教程
详解如何用DeepSeek R1和BrowserUse搭建免费的浏览器自动化方案。包含Ollama本地部署教程、WebUI安装步骤及实测效果，媲美OpenAI Operator却完全免费开源。
阅读全文 →
教程攻略·9 分钟
n8n一键部署30+AI工具：免费替代Zapier的自托管方案
详解GitHub开源项目n8n-install，通过一条命令部署n8n、Ollama、Flowise等30+AI工具，打造私有自动化工作流平台。涵盖核心组件解析、部署特性、适用场景及注意事项，是Zapier和Make的免费自托管替代方案。
阅读全文 →
产品体验·8 分钟
Open WebUI：13万Star开源AI界面，部署教程与功能全解析
深度解析Open WebUI这款13.5万Star的开源AI交互界面，涵盖Ollama集成、Docker一键部署、RAG文档问答、多用户管理等核心功能，助你快速搭建本地AI助手或企业AI平台。
阅读全文 →
前沿研究·9 分钟
SVDQuant：4-bit量化让扩散模型在消费级GPU上高效运行
SVDQuant是ICLR 2025 Spotlight论文，通过低秩分解吸收异常值实现扩散模型4-bit量化，显存降低75%。开源项目Nunchaku获3800+ Stars，让FLUX等大型图像生成模型在RTX 4060等中端显卡上流畅推理。
阅读全文 →
