#模型量化
共 94 篇相关文章
前沿研究·9 分钟
SVDQuant：4-bit量化让扩散模型在消费级GPU上高效运行
SVDQuant是ICLR 2025 Spotlight论文，通过低秩分解吸收异常值实现扩散模型4-bit量化，显存降低75%。开源项目Nunchaku获3800+ Stars，让FLUX等大型图像生成模型在RTX 4060等中端显卡上流畅推理。
阅读全文 →
产品体验·6 分钟
LangBot：16K Star多平台AI机器人开发框架详解
深入解析LangBot开源项目，一个支持微信、钉钉、飞书、Discord等多平台的生产级AI智能机器人开发平台，集成ChatGPT、DeepSeek等主流大模型，提供Agent智能体、知识库RAG、插件系统等核心能力。
阅读全文 →
产品体验·6 分钟
Fast Image Skills：AI代理即用型图像处理技能库详解
Fast Image Skills是一个开源Python项目，为Claude Code、Cursor等AI代理提供即用型图像处理技能，支持背景移除和自动裁剪功能，助力开发者快速构建自动化图像处理工作流。
阅读全文 →
教程攻略·7 分钟
Ollama教程：一键本地部署DeepSeek、Qwen等大模型
详解Ollama本地运行大模型的完整指南，支持DeepSeek、Qwen、Kimi-K2.5等主流开源模型，涵盖安装使用、模型生态、隐私优势及企业私有化部署场景，GitHub 17万Star的热门开源工具。
阅读全文 →
科技前沿
AnythingLLM完全指南：本地部署的隐私AI生产力工具
·8 分钟
AnythingLLM完全指南：本地部署的隐私AI生产力工具
深入解析AnythingLLM这款GitHub近6万Star的开源AI工具，涵盖本地部署、RAG知识库、多模型支持等核心功能，帮助你在保护数据隐私的同时大幅提升工作效率。
阅读全文 →
教程攻略·6 分钟
Unsloth教程：本地微调大模型省显存提速5倍
详解Unsloth开源工具如何通过LoRA优化和Web UI界面，让消费级显卡也能高效微调Gemma 4、Qwen3、DeepSeek等主流大模型，训练速度提升2-5倍，显存降低50%-70%。
阅读全文 →
产品体验·7 分钟
GitHub 8000+ Star：awesome-LLM-resources最全大语言模型资源库解析
深度解析GitHub万星项目awesome-LLM-resources，涵盖LLM模型训练、多模态生成、AI Agent、MCP协议、辅助编程等十余个方向，为开发者提供最全面的大语言模型学习资源地图。
阅读全文 →
教程攻略·8 分钟
Ollama教程：本地运行大模型的完整指南（2025最新）
详解Ollama本地部署大语言模型的完整教程，支持DeepSeek、Qwen、Kimi-K2.5等主流模型。17万Star开源项目，一键安装即可在本地运行LLM，保护数据隐私，零API成本。
阅读全文 →
教程攻略·8 分钟
Ollama教程：本地运行DeepSeek等大模型的最简方案
详解Ollama本地部署大模型的完整指南，支持DeepSeek、Qwen、Kimi-K2.5等主流模型。了解这款17万Star开源工具如何实现一键安装、离线推理，以及适用场景与生态集成方案。
阅读全文 →
产品体验·7 分钟
AnythingLLM完全指南：本地部署的隐私AI生产力工具
深度解析AnythingLLM开源项目，一款支持本地部署的隐私优先AI工具。涵盖RAG文档对话、多模型支持、AI Agent等核心功能，零配置即可运行，GitHub近6万Star。
阅读全文 →
教程攻略·13 分钟
Hugging Face Transformers：16万星AI模型框架深度解析与实战指南
深入解析Hugging Face Transformers开源框架的核心特性、技术架构与生态系统。涵盖多框架支持、50万+预训练模型调用、全模态任务覆盖及快速上手代码示例，助你高效构建AI应用。
阅读全文 →
产品体验·11 分钟
Hugging Face Transformers：16万Star背后的技术架构与生态解析
深入解析Hugging Face Transformers开源框架，涵盖技术架构、四大模态支持、Pipeline API用法及与Hub生态整合。了解这个16万Star项目如何成为AI开发者必备工具，以及它在大模型时代的战略地位与未来方向。
阅读全文 →
教程攻略·8 分钟
Ollama教程：17万Star的本地大模型运行框架详解
深入解析Ollama本地大模型运行框架，支持DeepSeek、Qwen、Kimi-K2.5等主流模型一键部署。了解Ollama的安装使用、模型生态、技术架构及隐私优势，助你零门槛在本地运行大语言模型。
阅读全文 →
产品体验·8 分钟
AnythingLLM完全指南：本地部署的开源RAG知识库工具
深度解析AnythingLLM这款近6万Star的开源AI工具，涵盖本地部署方案、RAG知识库搭建、隐私保护机制及企业级应用场景，助你在本地环境高效使用大模型。
阅读全文 →
产品体验·8 分钟
Chatbox开源AI客户端全面评测：近4万Star的多模型聚合神器
深度评测Chatbox开源AI客户端，支持GPT-4o、Claude、Gemini等多模型接入，数据本地存储保障隐私。近4万GitHub Star，跨平台桌面应用，开发者与内容创作者必备AI工具。
阅读全文 →
教程攻略·15 分钟
Ollama教程：一条命令本地运行DeepSeek等大模型
Ollama是GitHub上17万Star的开源工具，支持DeepSeek、Qwen、Kimi-K2.5等主流大模型本地运行。本文详解Ollama的核心优势、支持模型、技术架构及数据隐私价值，帮你快速上手本地AI部署。
阅读全文 →
深度解读·12 分钟
Hugging Face Transformers深度解析：16万Star的AI开源框架为何成为行业标配
深度解析Hugging Face Transformers框架的核心架构、全模态支持、推理训练能力及社区生态。了解这个16万Star的开源项目如何从NLP工具成长为连接AI研究与工程落地的行业基础设施。
阅读全文 →
教程攻略·15 分钟
Ollama完全指南：一行命令本地运行DeepSeek等大模型
Ollama是GitHub 17万Star的开源工具，支持一行命令本地运行DeepSeek、Qwen、Kimi-K2.5等主流大模型。本文详解Ollama的模型生态、核心优势、应用场景及为何它成为本地LLM部署的事实标准。
阅读全文 →
产品体验·12 分钟
AnythingLLM评测：本地部署开源AI知识库平台完全指南
深度评测AnythingLLM开源AI平台，详解本地部署、RAG文档对话、多模型切换等核心功能。GitHub 59K+ Star项目如何实现隐私优先、零配置的AI体验？附与PrivateGPT、Open WebUI竞品对比。
阅读全文 →
产品体验·9 分钟
gpt4free：免费调用GPT-4、Claude等大模型的开源项目解析
深度解析GitHub 66k星标开源项目gpt4free，教你如何免费调用GPT-4、Claude、Gemini等顶级大语言模型API。本文涵盖核心功能、技术原理、适用场景及合规风险，帮你判断是否值得使用。
阅读全文 →