#模型管理
共 160 篇相关文章
·10 分钟
MLE vs SWE职业选择：机器学习工程师如何精准定位自身价值
MLE转SWE还是坚守建模方向？本文深度解析机器学习工程师与软件工程师的核心差异、职业路径选择逻辑，帮助你找到最具竞争力的差异化定位，而非在错误的赛道上内耗。
阅读全文 →
·21 分钟
Spring AI实战：ChatModel到RAG应用开发完整指南
全面解析Spring AI核心模块：ChatModel对话、EmbeddingModel向量化、RAG检索增强生成、Tool Calling工具调用及MCP协议。Java开发者快速接入DeepSeek、ChatGPT等大模型的实战教程，涵盖Milvus向量数据库与Ollama本地模型集成。
阅读全文 →
·17 分钟
Dify本地部署实战：Docker一键搭建私有AI应用平台
手把手教你用Docker在本地私有化部署Dify AI应用平台。涵盖Linux、Windows、macOS环境配置，docker compose一键启动，首次初始化全流程，30分钟完成企业级AI开发环境搭建。
阅读全文 →
·19 分钟
Ollama+Dify+DeepSeek本地企业级知识库搭建全指南
手把手教你用Ollama+Dify搭建本地企业级RAG知识库，涵盖模型安装、IP监听配置、自定义微调模型导入、Embedding向量检索全流程，彻底摆脱云端API依赖，保障数据安全。
阅读全文 →
·13 分钟
用 Ollama 跑本地模型接入 Claude Code，AI 成本降低 99%
通过 Ollama 开源方案，将 Claude Code 等 AI 编程工具指向本地运行的开源模型，解锁 DeepSeek、Qwen3、Gemma 等数百个模型，在保持原有工作流不变的前提下，将 API 使用成本降至接近于零。本文详解配置方法、硬件要求与竞品对比。
阅读全文 →
·17 分钟
ChatGPT接入本地大模型：零成本无限Token完整教程
手把手教你将ChatGPT桌面端接入本地大模型，实现零成本、无限Token、数据完全本地化。涵盖Ollama直连方案与CC Switch中转方案，兼容LM Studio、llama.cpp、vLLM，同样适用于Claude Code等AI智能体。
阅读全文 →
llmfit：一条命令检测硬件能跑哪些本地大模型
·15 分钟
llmfit：一条命令检测硬件能跑哪些本地大模型
llmfit 是用 Rust 编写的开源命令行工具，无需下载模型即可预判本地硬件能否运行指定 LLM。覆盖数百种模型与 Ollama、llama.cpp 等主流推理后端，帮助开发者在本地部署大模型前快速完成硬件适配评估，避免反复试错。
阅读全文 →
·14 分钟
QuantaMind：本地验证AI Agent可靠性的开源测试工具
QuantaMind是一款免费开源的本地AI Agent可靠性测试工具，采用pass^k评分与确定性评分机制，支持多步序列测试与故障注入，覆盖Ollama、llama.cpp、vLLM等主流部署方案，帮助团队在上线前发现隐藏的序列级失败风险。
阅读全文 →
本地7B量化模型信息抽取：难点分析与工程优化策略
·14 分钟
本地7B量化模型信息抽取：难点分析与工程优化策略
在16GB内存限制下，使用Qwen 2.5 7B量化模型从保险、金融合同中抽取60+结构化字段，为何效果不理想？本文深度拆解任务复杂度根因，提供任务拆分、语义分块、GBNF约束、RAG检索等可落地优化方案，助你在不换模型的前提下显著提升本地LLM信息抽取质量。
阅读全文 →
·13 分钟
从零构建离线RAG应用：PDF文档本地问答完整指南
详解如何用Ollama、ChromaDB和Flask搭建完全离线的RAG应用，实现PDF文档本地问答。涵盖文档切分、向量化存储、检索增强生成及防幻觉设计，数据不出本地，无需API付费。
阅读全文 →
·12 分钟
Spring AI完整教程：ChatModel、RAG与MCP实战指南
系统学习Spring AI框架：涵盖ChatModel对话、EmbeddingModel向量化、ChatMemory记忆、Tool Calling工具调用、MCP协议及RAG检索增强生成，Java开发者构建大模型应用的完整路线图。
阅读全文 →
·5 分钟
Ollama入门：本地部署开源大模型的利器
Ollama是免费开源的大模型管理平台，支持一键部署DeepSeek等开源模型到本地，兼容macOS、Windows、Linux和Docker，提供API与命令行双模式，助你零成本构建私有化AI应用。
阅读全文 →
·11 分钟
AI Agent开发完整学习路径：从零基础到企业实战
系统梳理AI Agent开发学习路径，涵盖基础原理、提示工程、工具调用、多智能体协同，以及LangChain、CrewAI、Dify主流框架实战。附企业级项目案例与面试资源，帮助零基础学习者快速建立完整知识体系。
阅读全文 →
·6 分钟
本地AI代理自动精读arXiv：只推送真正相关的论文
Research Radar是一个开源本地AI代理，每日自动抓取arXiv论文、批量打分过滤、深度精读摘要，并通过Telegram推送与你研究方向真正相关的内容。支持Ollama、vLLM等本地模型，数据不出本机，完全免费可自托管。
阅读全文 →
·8 分钟
AI没抢走工作，却让我打两份工养订阅
AI时代最真实的打工人困境：不是失业焦虑，而是订阅焦虑。ChatGPT、Claude、Copilot……月费叠加轻松破百美元，AI生产力工具究竟是助力还是新负担？本文深度拆解AI订阅经济的隐形成本与破局思路。
阅读全文 →
·8 分钟
Hermes Agent管理K8S集群实践：智能运维工具选型与成本解析
深度复盘用Hermes Agent管理Kubernetes集群的实践经验，涵盖K8S智能运维工具演进、Token成本真相、AIOps落地误区，以及AI运维能力三层次框架，助你系统规划云原生智能运维技术路径。
阅读全文 →
·6 分钟
Mac本地AI编程代理实战：Ollama+OpenCode+MCP完整搭建指南
在32GB内存Mac上搭建本地AI编程代理的完整方案：Ollama提供本地推理引擎，OpenCode承担代理框架，MCP记忆服务器实现跨会话上下文保持。代码不出本机，无需订阅费用，兼顾隐私与效率。
阅读全文 →
·12 分钟
多模型分层部署：AI网关值得引入吗？
越来越多团队采用多模型分层调度架构，AI网关能解决跨厂商API管理、自动降级和成本追踪难题，但也引入新的抽象层。本文分析AI网关的核心价值与适用场景，帮助你判断是否到了引入网关的临界点。
阅读全文 →
