#模型管理
共 171 篇相关文章
·13 分钟
从零构建离线RAG应用：PDF文档本地问答完整指南
详解如何用Ollama、ChromaDB和Flask搭建完全离线的RAG应用，实现PDF文档本地问答。涵盖文档切分、向量化存储、检索增强生成及防幻觉设计，数据不出本地，无需API付费。
阅读全文 →
·12 分钟
Spring AI完整教程：ChatModel、RAG与MCP实战指南
系统学习Spring AI框架：涵盖ChatModel对话、EmbeddingModel向量化、ChatMemory记忆、Tool Calling工具调用、MCP协议及RAG检索增强生成，Java开发者构建大模型应用的完整路线图。
阅读全文 →
·5 分钟
Ollama入门：本地部署开源大模型的利器
Ollama是免费开源的大模型管理平台，支持一键部署DeepSeek等开源模型到本地，兼容macOS、Windows、Linux和Docker，提供API与命令行双模式，助你零成本构建私有化AI应用。
阅读全文 →
·11 分钟
AI Agent开发完整学习路径：从零基础到企业实战
系统梳理AI Agent开发学习路径，涵盖基础原理、提示工程、工具调用、多智能体协同，以及LangChain、CrewAI、Dify主流框架实战。附企业级项目案例与面试资源，帮助零基础学习者快速建立完整知识体系。
阅读全文 →
·6 分钟
本地AI代理自动精读arXiv：只推送真正相关的论文
Research Radar是一个开源本地AI代理，每日自动抓取arXiv论文、批量打分过滤、深度精读摘要，并通过Telegram推送与你研究方向真正相关的内容。支持Ollama、vLLM等本地模型，数据不出本机，完全免费可自托管。
阅读全文 →
·8 分钟
AI没抢走工作，却让我打两份工养订阅
AI时代最真实的打工人困境：不是失业焦虑，而是订阅焦虑。ChatGPT、Claude、Copilot……月费叠加轻松破百美元，AI生产力工具究竟是助力还是新负担？本文深度拆解AI订阅经济的隐形成本与破局思路。
阅读全文 →
·8 分钟
Hermes Agent管理K8S集群实践：智能运维工具选型与成本解析
深度复盘用Hermes Agent管理Kubernetes集群的实践经验，涵盖K8S智能运维工具演进、Token成本真相、AIOps落地误区，以及AI运维能力三层次框架，助你系统规划云原生智能运维技术路径。
阅读全文 →
·6 分钟
Mac本地AI编程代理实战：Ollama+OpenCode+MCP完整搭建指南
在32GB内存Mac上搭建本地AI编程代理的完整方案：Ollama提供本地推理引擎，OpenCode承担代理框架，MCP记忆服务器实现跨会话上下文保持。代码不出本机，无需订阅费用，兼顾隐私与效率。
阅读全文 →
·12 分钟
多模型分层部署：AI网关值得引入吗？
越来越多团队采用多模型分层调度架构，AI网关能解决跨厂商API管理、自动降级和成本追踪难题，但也引入新的抽象层。本文分析AI网关的核心价值与适用场景，帮助你判断是否到了引入网关的临界点。
阅读全文 →
本地编程Agent实战：用开源模型替代Claude订阅的完整指南
·15 分钟
本地编程Agent实战：用开源模型替代Claude订阅的完整指南
本文深度解析本地编程Agent的核心概念、搭建优势与现实挑战，对比Claude Code等商业方案，帮助开发者用开放权重模型实现零订阅费、数据本地化的AI编程工作流。
阅读全文 →
·9 分钟
统一内存架构揭秘：迷你PC如何运行70B大模型
为什么配备统一内存的迷你PC能跑70B大模型，RTX 4090却束手无策？本文深度解析显存墙与统一内存架构的核心差异，帮助开发者和AI爱好者做出更明智的本地部署硬件选择。
阅读全文 →
·14 分钟
4090跑Qwen3 27B为何这么慢？本地推理性能优化实战
RTX 4090运行Qwen3 27B模型推理耗时超400秒？本文深入分析显存溢出、CPU卸载拖累等核心原因，并提供量化选型、GPU层配置等针对性优化方案，帮你彻底解决本地大模型部署的性能瓶颈。
阅读全文 →
·12 分钟
Ollama为何快速崛起？拆解本地大模型工具的成功逻辑
Ollama如何从小众开源项目成长为开发者默认选择？本文从产品设计、技术策略、生态建设三个维度，拆解Ollama在本地大语言模型工具领域快速崛起的核心逻辑，以及它对AI工具开发者的启示。
阅读全文 →
·13 分钟
OpenAI二号人物Fidji Simo离任：IPO筹备与Anthropic竞争双重压力下的领导层震荡
OpenAI二号高管Fidji Simo因医疗休假超期卸任全职领导职务，此番人事变动恰逢公司筹备IPO、同时在企业级市场追赶Anthropic的关键节点，引发外界对其组织稳定性与商业化战略走向的广泛关注。
阅读全文 →
·4 分钟
Ollama获6500万美元融资，用户近900万，本地AI部署走向主流
开源AI工具Ollama完成6500万美元融资，由Benchmark领投，用户规模接近900万，GitHub Star超17.6万。本文深度解析Ollama的核心优势、本地大模型部署的战略价值，以及融资后的发展方向。
阅读全文 →
·14 分钟
Dify本地部署实战：Docker环境搭建AI应用平台全流程
详解Dify本地部署全流程：从Docker环境配置、源码拉取、容器启动到首次访问，手把手带你搭建私有化AI应用开发平台，适配Linux、Windows、Mac多平台，助力企业级AI应用快速落地。
阅读全文 →
·18 分钟
Dify实战入门：本地部署到构建企业级AI应用完整指南
详解Dify开源LLM应用开发平台的核心功能与本地部署全流程，涵盖VMware+Ubuntu+宝塔面板+Docker一键安装Dify，支持DeepSeek、ChatGPT等百余模型，助你快速搭建企业级AI应用。
阅读全文 →
·14 分钟
AMD Ryzen AI Halo开发套件：4000美元本地大模型利器对标苹果英伟达
AMD正式发布Ryzen AI Halo本地AI开发套件，售价约4000美元，搭载128GB统一内存，支持本地运行70B大模型。本文深度解析其配置亮点、定价策略及在本地AI算力市场的竞争格局，并梳理Anthropic大模型可解释性研究等科技要闻。
阅读全文 →
