#Ollama 本地部署
共 440 篇相关文章
·19 分钟
MCP协议详解：智能体工具接入的标准化之路
深入解析MCP（模型上下文协议）的核心价值、三大角色架构与工程实践。通过课程通知MCP服务器实战案例，讲解如何用FastMCP构建服务端、用LangChain加载MCP工具，并给出本地工具与MCP工具的对比及三条设计建议。
阅读全文 →
·15 分钟
Mac Studio本地运行Qwen 27B：真实性能实测与部署指南
开发者在Mac Studio上实测运行Qwen 27B大模型，详解统一内存架构优势、量化策略选择、tokens/s实际表现，以及本地部署大模型的成本与隐私考量。
阅读全文 →
·12 分钟
AI智能体自主对话实验：当人类退到玻璃后面旁观
探索Nexagora多智能体社交网络实验：AI智能体通过API自主对话，人类仅作为旁观者。深入分析人格漂移、上下文窗口饱和、群体极化等涌现行为，解读自主智能体架构设计与多智能体协作的未来。
阅读全文 →
·7 分钟
Ornith 1.5 开源模型系列发布：9B、35B MoE、397B 三款登陆 HuggingFace
Ornith AI 发布 Ornith 1.5 系列三款开源模型，涵盖 9B 稠密模型、35B-A3B MoE 架构和 397B 旗舰模型，同步提供 GGUF 量化版本支持本地部署，覆盖从消费级显卡到研究机构的多层次需求。
阅读全文 →
·7 分钟
英伟达联署公开信：为何开放模型至关重要
英伟达签署公开信力挺开放模型，阐述其在安全、创新扩散和技术主权方面的核心价值。本文深度解析英伟达的战略动机，以及开放模型与闭源模型并存的产业逻辑。
阅读全文 →
·12 分钟
Qwen3.8 27B斩获52分：中型开源模型如何改写性能格局
阿里通义千问Qwen3.8 27B在Artificial Analysis评测中获得52分，凭借27B参数量逼近旗舰大模型水平。本文解析其性能表现、本地部署优势及对开源模型竞争格局的深远影响。
阅读全文 →
·9 分钟
AiCode实测：安卓手机上的开源AI编程工具完整使用指南
详细实测AiCode安卓开源AI编程工具，涵盖API提供商配置、容器环境安装、MCP协议扩展、Token成本统计、Git版本管理等完整功能，手把手教你在手机上搭建AI编程环境。
阅读全文 →
·17 分钟
Qwen 3.8 Flash Next深度解读：半参数超越DeepSeek V4的混合架构
深度解析Qwen 3.8 Flash Next开源模型，探讨其以半激活参数超越DeepSeek V4 Flash的混合架构原理、实际性能表现及对开发者的部署价值，并展望Qwen 4正式版走向。
阅读全文 →
·15 分钟
Gemini对话记录与Google活动日志不一致：AI数据透明度隐患
用户发现Google Gemini对话历史与账户活动日志存在持续性不一致，引发AI数据透明度与隐私合规担忧。本文分析技术原因、合规风险及用户应对措施。
阅读全文 →
·17 分钟
Ollama Cloud Pro额度消耗异常：DeepSeek用量激增原因深度分析
Ollama Cloud Pro用户反映DeepSeek模型额度消耗突然加速，不到一小时触及上限。本文从token计费机制、模型版本迭代、计费权重调整等角度深入分析原因，并提供实用的额度优化建议。
阅读全文 →
·10 分钟
WebBrain：免费开源的本地AI浏览器侧边栏助手
WebBrain是一款开源浏览器AI侧边栏助手，支持通过llama.cpp本地运行大语言模型，零成本、零隐私泄露。支持Chromium和Firefox浏览器，也可自带API密钥接入OpenAI、Claude等云端服务，实现本地与云端灵活切换。
阅读全文 →
·14 分钟
NobodyWho开源推理引擎：本地运行大模型的多平台SDK方案
NobodyWho是基于llama.cpp的开源端侧推理引擎，支持Swift、Kotlin、Flutter、React Native、Python和Godot多平台接入，提供工具调用、多模态、语音及GPU加速能力，让大语言模型完全在本地设备运行，无需API密钥。
阅读全文 →
·11 分钟
8GB显存跑本地AI编程助手：模型选择实战指南
8GB显存如何部署本地AI编程助手？本文分析显存瓶颈原因，推荐Qwen2.5-Coder-7B等适合的量化模型，并提供上下文长度设置、推理后端选择等实用优化技巧，帮你在消费级显卡上跑通Agent工具调用。
阅读全文 →
·17 分钟
通义千问3-27B本地部署：满血vs量化的显存与成本博弈
深度对比Qwen3-27B从1Bit到8Bit各量化档位的显存需求、推理速度与部署成本，帮你找到精度与预算的最佳平衡点。单卡4090跑4Bit每秒49字，本地部署成本仅为云端API的五十分之一。
阅读全文 →
·10 分钟
Unsloth Desktop完整评测：本地AI模型部署推理微调一站式解决方案
深度评测Unsloth Desktop桌面客户端，涵盖本地大模型部署、推理加速、模型微调、多模态生成、Agent对接等核心功能，对比Ollama和LM Studio的差异化优势，附国内用户模型下载解决方案。
阅读全文 →
科技前沿
赚钱实战·第9期：本地大模型+开源工具的五条AI搞钱路
·1 分钟
赚钱实战·第9期：本地大模型+开源工具的五条AI搞钱路
每周三分享至少5个用AI赚钱的实战思路，逻辑清晰可执行
阅读全文 →
·13 分钟
JetBrains助力Qwen在Mac本地部署：开发者体验全面提升
JetBrains工具支持让Qwen大语言模型在Mac上本地部署更简单。本文解析本地LLM部署的隐私优势、成本考量，以及Apple Silicon芯片运行开源模型的工程化实践。
阅读全文 →
·11 分钟
AI Agent开发全攻略：从核心原理到企业级实战落地
深入解析AI Agent开发的核心技术栈与实战路径，涵盖Agent工作原理、LangChain框架、MCP工具接入、多智能体协作等关键技术，附Vue项目自动创建实战案例与四阶段学习路线，助力程序员掌握智能体应用开发核心竞争力。
阅读全文 →
