#量化模型
共 61 篇相关文章
产品体验·9 分钟
AnythingLLM完全指南：本地部署的隐私AI助手
深度解析AnythingLLM开源项目，一款隐私优先、零配置的本地AI生产力工具。支持RAG知识库、多模型切换、文档对话，GitHub近6万Star，适合企业和个人本地部署使用。
阅读全文 →
教程攻略·7 分钟
Ollama教程：一键本地部署DeepSeek、Qwen等大模型
详解Ollama本地运行大模型的完整指南，支持DeepSeek、Qwen、Kimi-K2.5等主流开源模型，涵盖安装使用、模型生态、隐私优势及企业私有化部署场景，GitHub 17万Star的热门开源工具。
阅读全文 →
教程攻略·8 分钟
Ollama教程：本地运行大模型的完整指南（2025最新）
详解Ollama本地部署大语言模型的完整教程，支持DeepSeek、Qwen、Kimi-K2.5等主流模型。17万Star开源项目，一键安装即可在本地运行LLM，保护数据隐私，零API成本。
阅读全文 →
教程攻略·7 分钟
Ollama教程：本地一键运行DeepSeek、Qwen等大模型完整指南
详解Ollama开源工具的安装使用方法，支持DeepSeek、Qwen、Kimi-K2.5、GLM-5等主流大模型本地部署，17万Star的最受欢迎本地大模型运行框架，助你实现离线AI推理与隐私保护。
阅读全文 →
产品体验·9 分钟
awesome-LLM-resources：GitHub 8000+ Star的LLM资源大全深度解析
深度解析GitHub万星项目awesome-LLM-resources，涵盖AI Agent、模型训练、MCP协议、多模态生成等LLM十大核心方向，为研究人员和开发者提供最全面的大语言模型资源索引指南。
阅读全文 →
产品体验·7 分钟
Chatbox：支持多模型的开源AI桌面客户端详解
Chatbox是一款GitHub近4万Star的开源AI客户端，支持ChatGPT、Claude、Gemini及本地模型，提供跨平台桌面应用、数据本地存储、Prompt管理等功能，是统一管理多种AI对话服务的理想选择。
阅读全文 →
教程攻略·8 分钟
Ollama教程：17万Star的本地大模型运行框架深度解析
深度解析Ollama开源项目，一行命令本地运行DeepSeek、Qwen、Kimi-K2.5等主流大模型。详解安装使用、模型生态、技术架构及适用场景，助你快速上手本地LLM部署。
阅读全文 →
产品体验·10 分钟
Chatbox开源AI客户端完整测评：多模型支持的跨平台桌面工具
深度测评Chatbox开源AI客户端，支持GPT-4、Claude、Gemini等多模型接入，覆盖Windows/macOS/Linux跨平台使用。本文详解核心功能、技术架构、适用场景及与同类工具对比，帮你判断是否值得安装。
阅读全文 →
教程攻略·8 分钟
Ollama教程：17万Star的本地大模型运行框架详解
深入解析Ollama本地大模型运行框架，支持DeepSeek、Qwen、Kimi-K2.5等主流模型一键部署。了解Ollama的安装使用、模型生态、技术架构及隐私优势，助你零门槛在本地运行大语言模型。
阅读全文 →
教程攻略·15 分钟
Ollama教程：一条命令本地运行DeepSeek等大模型
Ollama是GitHub上17万Star的开源工具，支持DeepSeek、Qwen、Kimi-K2.5等主流大模型本地运行。本文详解Ollama的核心优势、支持模型、技术架构及数据隐私价值，帮你快速上手本地AI部署。
阅读全文 →
产品体验·10 分钟
AnythingLLM：6万Star本地AI知识库，隐私优先的RAG平台
深度解析AnythingLLM开源AI平台：支持本地部署、零配置开箱即用、内置RAG文档问答和向量数据库。了解这款6万Star项目如何实现隐私优先的一站式AI生产力体验，以及企业知识库、个人研究等实际应用场景。
阅读全文 →
教程攻略·15 分钟
Ollama完全指南：一行命令本地运行DeepSeek等大模型
Ollama是GitHub 17万Star的开源工具，支持一行命令本地运行DeepSeek、Qwen、Kimi-K2.5等主流大模型。本文详解Ollama的模型生态、核心优势、应用场景及为何它成为本地LLM部署的事实标准。
阅读全文 →
产品体验·8 分钟
gpt4free：免费调用GPT-4、Claude等顶级大模型的开源神器
深度解析GitHub热门开源项目gpt4free，支持免费调用GPT-4、Claude、Gemini、DeepSeek等主流大模型API。本文详解其核心功能、技术实现、使用风险及合规替代方案，帮助开发者做出明智选择。
阅读全文 →
教程攻略·12 分钟
Ollama教程：一行命令本地运行DeepSeek等大模型
详解Ollama本地部署大模型的完整指南，支持DeepSeek、Qwen、Gemma等主流开源模型。了解Ollama的安装使用、核心优势、技术架构及适用场景，零API费用实现数据隐私保护。
阅读全文 →
产品体验·13 分钟
AnythingLLM：6万Star开源AI知识库，本地部署隐私优先
AnythingLLM是GitHub近6万Star的开源AI知识库工具，支持本地部署、RAG检索增强生成、多模型切换和文档解析，零配置开箱即用，为企业和个人提供隐私优先的AI生产力方案。
阅读全文 →
教程攻略·15 分钟
Ollama教程：一键本地部署DeepSeek等大模型
Ollama是GitHub上17万Star的开源工具，支持DeepSeek、Qwen、Gemma等主流大模型本地运行。本文详解Ollama的安装使用、支持模型、适用场景及核心优势，助你快速实现大模型本地化部署。
阅读全文 →
产品体验·6 分钟
IBM Granite 4.1开源模型：21个量化版本SVG生成实测对比
IBM发布Granite 4.1系列开源大模型（Apache 2.0），Unsloth提供21种GGUF量化版本。Simon Willison用鹈鹕SVG测试不同量化级别，发现3B模型在SVG生成上表现一致——都很差，揭示了模型选型的关键启示。
阅读全文 →
产品体验·13 分钟
AnythingLLM：本地部署的开源AI知识库，隐私优先的RAG神器
深度解析AnythingLLM开源项目：支持本地部署、隐私优先的一站式AI生产力工具。集成RAG检索增强生成、多模型切换、向量数据库，零配置开箱即用，GitHub 59K+ Star，是企业知识库和个人AI助手的理想选择。
阅读全文 →
产品体验·6 分钟
IBM Granite 4.1量化测试：21个GGUF版本SVG生成对比实验
IBM Granite 4.1开源模型发布，Unsloth提供21种GGUF量化版本。Simon Willison用鹈鹕骑自行车SVG测试发现：3B小模型中量化级别对生成质量影响微乎其微，最小模型反而画出最好的自行车。
阅读全文 →
产品体验·10 分钟
LibreChat：开源多模型AI聊天平台部署与功能全解析
深度解析LibreChat开源AI聊天平台，涵盖多模型切换、MCP协议、Agents智能代理、代码解释器等核心功能，以及Docker自托管部署方案与企业级应用场景，助你搭建统一的多模型AI交互界面。
阅读全文 →