#Ollama 本地部署
共 391 篇相关文章
·7 分钟
Gemini 3.7 Flash发布与GPT-5.6极速模式：AI开源迈向生态时代
谷歌发布Gemini 3.7 Flash专注编程与Agent优化，OpenAI推出GPT-5.6 Ultra-Fast模式实现14倍速度提升。AI开源从开放模型转向开放生态，Agent工具链与成本监控工具密集涌现，智能体工作流进入实用化阶段。
阅读全文 →
·9 分钟
Qwen 3.8 27B发布：本地部署最强稠密开源模型解析
阿里通义千问Qwen 3.8 27B以开放权重形式发布，被誉为目前最好的本地部署稠密模型。本文解析其技术定位、27B参数量优势、开放权重的战略意义及社区评价。
阅读全文 →
·20 分钟
Codex++保姆级教程：三层架构与13大功能模块详解
深入解析Codex++的三层架构设计、管理控制台13个功能模块、主界面操作及设置配置。涵盖供应商配置、脚本市场、插件修复、工作模式切换等核心功能，助你快速掌握这款AI编程助手增强工具。
阅读全文 →
·7 分钟
Magnitude：模型全留本机的隐私优先代码助手
Magnitude是一款将模型推理和Agent执行全部留在本机的私有代码助手，支持硬件感知自动配置、文件修改、命令执行等完整Agent能力，专为代码敏感、重视隐私的开发者设计。
阅读全文 →
·9 分钟
自托管AI软件工厂：本地部署AI开发流水线实战指南
深入解析自托管AI软件工厂的概念、技术架构与落地实践。涵盖本地大模型部署、Agent工作流编排、数据隐私保障等核心要素，帮助开发团队构建自主可控的AI驱动开发流水线。
阅读全文 →
·15 分钟
本地大模型的隐藏福利：冬天不用开暖气
本地部署大模型的GPU显卡发热量堪比电暖器，本文深入解析本地LLM玩家选择自建算力的动机、多卡堆叠的功耗现实、散热挑战，以及这个独特社区文化背后的技术趋势。
阅读全文 →
·12 分钟
Qwen3 27B本地部署实测：单张3090跑出前沿级Agent能力
实测Qwen3 27B开源模型在单张RTX 3090上的表现，涵盖推理速度、Agent能力、多模态视觉及工具调用等维度，对比DeepSeek V-Flash等闭源模型，解析其性价比优势与本地部署方案。
阅读全文 →
·17 分钟
零成本搭建免费科研Agent：自动写论文实战教程
详解如何零成本搭建科研Agent，利用免费模型+本地Qwen3.5-4B+LaTeX工具链，实现自动文献检索、数据分析、图表绘制与论文撰写，20分钟跑完一篇完整论文，适合预算有限的研究生群体。
阅读全文 →
·15 分钟
Unsloth Dynamic 3.0 量化方案详解：按层动态分配精度，本地跑大模型更聪明
深入解析 Unsloth Dynamic 3.0 GGUFs 量化方案的核心技术原理，了解它如何通过按层动态分配量化精度，在模型体积与输出质量之间找到更优平衡，助力消费级硬件高效运行大语言模型。
阅读全文 →
·14 分钟
Claude Code周限额政策详解：开发者反应与应对策略
Anthropic旗下Claude Code推出周使用限额政策，引发开发者社区热议。本文详解限额政策核心变化、商业逻辑、开发者社区反应及多工具组合、本地模型部署等应对策略。
阅读全文 →
·14 分钟
Unsloth Desktop 发布：本地模型运行与训练一体化桌面应用
Unsloth Desktop 是一款开源跨平台桌面应用，集模型运行、微调训练、部署于一体，支持Mac/Windows/Linux，实现2倍训练加速与70%显存节省，零遥测保护隐私。
阅读全文 →
fx：极简开源原生编码智能体深度解析
·17 分钟
fx：极简开源原生编码智能体深度解析
深度解析fx开源编码智能体，探讨其Tiny、Open、Native三大核心理念，分析极简AI编程工具在可控性、隐私保护和模型无关性方面的独特价值与局限。
阅读全文 →
·15 分钟
24GB Mac mini跑27B大模型：三个关键设置防止内存溢出
实测Qwen3.8-27B在24GB M4 Pro Mac mini上的运行表现，详解GPU显存上限调整、KV缓存量化、关闭思考模式三个关键设置，附IQ4_XS与Q4_K_M量化对比数据，帮助你在有限内存中稳定运行27B稠密模型。
阅读全文 →
·14 分钟
Cursor锁死模型怎么办？用MCP协议实现AI自由切换
主流AI编程工具都在用模型绑定锁死用户，Shun Code通过MCP协议实现工作区与AI解耦，支持随时切换不同AI模型，文件始终留在本地，让开发者真正掌握选择自由。
阅读全文 →
·7 分钟
Qwen开发者暗示别等35B-A3B：社区三大猜测解读
Qwen通义千问开发者暗示用户不必等待35B-A3B模型，社区猜测可能有更大规模MoE模型发布或产品线策略调整。本文解读命名规则、分析三种可能方向及对开源大模型生态的影响。
阅读全文 →
·15 分钟
魔改2080Ti本地部署Qwen3 27B实测：FP8量化低成本方案
实测魔改2080Ti显卡通过FP8量化本地运行Qwen3 27B多模态大模型，详解硬件配置、推理速度、显存占用及架构兼容性问题，为预算有限的开发者提供低成本本地部署方案。
阅读全文 →
·12 分钟
Cursor共享账号池风险揭秘：2.5折背后的安全隐患
深度拆解Cursor Pro账号共享工具的运作原理，分析批量账号池轮换机制背后的封号风险、代码泄露隐患与资金安全问题，帮助开发者理性评估低价订阅服务的真实代价。
阅读全文 →
·6 分钟
omlx：为Apple Silicon打造的高性能LLM推理服务
omlx是一款专为Apple Silicon优化的开源LLM推理服务器，支持连续批处理、SSD缓存和macOS菜单栏管理。本文深入解析其核心技术亮点、适用场景及与Ollama等工具的差异化竞争优势。
阅读全文 →
