#量化技术
共 94 篇相关文章
教程攻略·8 分钟
GPT-OSS本地部署教程：Ollama一键运行OpenAI开源模型
详解OpenAI开源模型GPT-OSS的本地部署方法，涵盖20B/120B版本对比、Ollama安装配置、硬件要求及实测效果，助你在家用电脑上离线运行接近ChatGPT水平的AI模型。
阅读全文 →
教程攻略·9 分钟
GPT-OSS-20B私有化部署教程：硬件选型+部署流程+效果实测
详解OpenAI开源GPT-OSS-20B本地私有化部署全流程，涵盖显卡选型（RTX 5090/V100/4070Ti）、Linux环境部署步骤、API调用配置及实测效果，附120B模型硬件方案对比，助你低成本搭建企业级AI服务。
阅读全文 →
教程攻略·10 分钟
2025年大模型转型路线图：基础→框架→实战三阶段规划
系统梳理2025年AI大模型应用开发转型路线，涵盖Python基础、Transformer架构、LangChain与LlamaIndex框架、RAG检索增强生成、Agent开发、模型微调三大核心技能，附实战项目建议，助你2-3个月完成转型。
阅读全文 →
产品体验·9 分钟
Claude Haiku 4.5评测：三分之一价格实现旗舰级AI性能
深度评测Anthropic Claude Haiku 4.5：SWE-bench编码得分73.3%碾压GPT-5和Gemini 2.5 Pro，智能体工具使用接近人类水平，价格仅为Sonnet 4.5的三分之一。附5项实战测试结果与企业应用场景分析。
阅读全文 →
教程攻略·9 分钟
小智AI+MCP协议+STM32：语音控制智能家居实战方案
详解小智AI通过MCP协议与STM32双机通信实现智能家居语音控制的完整方案，涵盖步进电机精准控制、灯光风扇加湿器开关控制，以及MCP协议在嵌入式硬件领域的落地实践。
阅读全文 →
教程攻略·10 分钟
DeepSeek R1+BrowserUse：免费开源浏览器自动化方案搭建教程
详解如何用DeepSeek R1和BrowserUse搭建免费的浏览器自动化方案。包含Ollama本地部署教程、WebUI安装步骤及实测效果，媲美OpenAI Operator却完全免费开源。
阅读全文 →
教程攻略·7 分钟
Gemma 4部署DGX Spark实战：本地AI超算+开源大模型全解析
深度解析Google Gemma 4模型在NVIDIA DGX Spark上的部署方案。涵盖DGX Spark硬件架构、Gemma 4技术亮点、本地AI部署优势及开发者实践指南，助你掌握桌面级AI超算的最新玩法。
阅读全文 →
教程攻略·9 分钟
AI科研全流程实战：从LLM选型到N8N自动化工作流搭建指南
深度解析AI驱动科研全流程方法论，涵盖LLM模型选型、Python数据分析自动化、Zotero文献管理、Overleaf论文写作、本地LLM部署及N8N自动化工作流搭建，助你从AI聊天升级为AI做科研。
阅读全文 →
教程攻略·10 分钟
4-bit QLoRA微调LLaMA 3实战：消费级GPU训练80亿参数大模型指南
详解如何使用QLoRA和Unsloth框架在消费级GPU上微调LLaMA 3 8B大模型。涵盖4-bit量化、LoRA低秩适配、Alpaca数据格式、训练流水线搭建到模型部署的完整流程，RTX 3090即可运行。
阅读全文 →
科技前沿·6 分钟
Cursor上线Claude Opus 4快速模式：速度快2.5倍，成本贵6倍值得用吗？
Cursor正式推出Claude Opus 4的快速模式，响应速度提升2.5倍但成本增加6倍。本文分析快速模式的适用场景、性价比权衡及开发者使用建议，帮你判断是否值得开启。
阅读全文 →
深度解读·14 分钟
Hugging Face Transformers：16万Star开源AI框架深度解析
深度解析Hugging Face Transformers开源框架，涵盖核心架构、Pipeline API、Auto Classes机制、多模态模型支持及社区生态。了解这个16万Star项目如何成为AI开发事实标准，助你快速上手预训练模型的推理与训练。
阅读全文 →
产品体验·6 分钟
localOCR：本地部署的开源OCR方案，支持Gemma-4等视觉模型
localOCR是一款基于Gemma-4、Llama 3.2等视觉语言模型的本地OCR开源工具，支持离线运行，保障数据隐私。本文详解其技术架构、多模型支持、适用场景及相比传统OCR的核心优势。
阅读全文 →
产品体验·7 分钟
Unsloth：显存优化80%，本地微调大模型的最佳开源工具
Unsloth是GitHub 63K+ Star的开源大模型训练工具，支持Gemma 4、Qwen 3、DeepSeek等主流模型。通过显存优化降低50%-80%显存占用，让RTX 4090也能微调7B模型，提供Web UI一键训练。
阅读全文 →
产品体验·8 分钟
awesome-LLM-resources：GitHub 8K Star最全大语言模型学习资源库解析
深度解析GitHub万星项目awesome-LLM-resources，涵盖多模态、AI Agent、MCP协议、模型训练推理、辅助编程等LLM核心方向，为AI从业者提供一站式学习资源导航与使用指南。
阅读全文 →
前沿研究·9 分钟
SVDQuant：4-bit量化让扩散模型在消费级GPU上高效运行
SVDQuant是ICLR 2025 Spotlight论文，通过低秩分解吸收异常值实现扩散模型4-bit量化，显存降低75%。开源项目Nunchaku获3800+ Stars，让FLUX等大型图像生成模型在RTX 4060等中端显卡上流畅推理。
阅读全文 →
产品体验·10 分钟
PyGPT：开源桌面AI助手，一站式集成GPT/Claude/Ollama等多模型
深度解析PyGPT开源桌面AI助手，支持GPT-4、Claude、Gemini、Ollama本地模型等多模型集成，内置RAG知识管理、智能体、语音交互、图像生成等功能，适用于开发者、内容创作者和企业用户。
阅读全文 →
产品体验·6 分钟
灵雀AI Agent框架：私有化部署的自主可控方案
灵雀（lingque）是一款基于Python的开源AI Agent框架，支持完全私有化部署，数据不出域。本文深入分析其技术特点、适用场景及与LangChain等框架的差异化优势。
阅读全文 →
科技前沿·8 分钟
Kimi-K2.5开源：月之暗面最强模型来了，GitHub星标飙升
月之暗面正式开源旗舰模型Kimi-K2.5，GitHub星标突破1900。本文解读Kimi-K2.5的战略意义、技术生态、与DeepSeek和Qwen的竞争格局，以及开发者如何快速上手这款国产开源大模型。
阅读全文 →
