#推理引擎
共 157 篇相关文章
产品体验·8 分钟
One API：统一管理30+大模型的开源API网关完整指南
One API是GitHub 32K+ Star的开源大模型API网关，支持OpenAI、Claude、DeepSeek等30+模型统一接入。详解核心功能、Docker部署、Key管理、负载均衡与企业级应用场景，附技术架构深度解析。
阅读全文 →
产品体验·7 分钟
DeepSeek API集成生态全景：37000+ Star开源项目深度解析
深度解析DeepSeek官方维护的awesome-deepseek-integration开源项目，涵盖37000+ Star背后的集成生态、核心价值、开发者接入指南及未来趋势，助你快速将DeepSeek API接入主流软件工作流。
阅读全文 →
产品体验·10 分钟
Cube Studio深度解析：腾讯开源一站式MLOps平台实战指南
深度解析腾讯开源AI平台Cube Studio的架构设计与核心能力，涵盖大模型训练微调、vLLM推理部署、分布式训练框架生态、昇腾国产化适配及VGPU算力管理，帮助企业快速构建私有化MLOps全流程。
阅读全文 →
教程攻略·15 分钟
Ollama教程：一键本地部署DeepSeek等大模型
Ollama是GitHub上17万Star的开源工具，支持DeepSeek、Qwen、Gemma等主流大模型本地运行。本文详解Ollama的安装使用、支持模型、适用场景及核心优势，助你快速实现大模型本地化部署。
阅读全文 →
产品体验·9 分钟
AnythingLLM完全指南：本地部署的隐私AI知识库工具
深度解析AnythingLLM这款GitHub 59K+ Star的开源AI工具，支持本地大模型运行、RAG私有知识库问答、零配置开箱即用。详解核心特性、适用场景与技术架构，助你搭建隐私优先的AI生产力平台。
阅读全文 →
产品体验·4 分钟
Cube Studio：腾讯开源一站式云原生AI平台深度解析
深度解析腾讯音乐开源的Cube Studio云原生AI平台，涵盖MLOps全流程、大模型训练推理、分布式训练框架支持、VGPU虚拟化及国产化适配等核心能力，帮助企业高效构建AI基础设施。
阅读全文 →
教程攻略·8 分钟
Ollama教程：一键本地运行DeepSeek等大模型的开源神器
详解Ollama本地部署大模型的完整指南。支持DeepSeek、Qwen、Gemma等主流LLM，17万Star开源项目，零配置开箱即用，保障数据隐私，告别API按量付费。
阅读全文 →
产品体验·13 分钟
AnythingLLM：本地部署的开源AI知识库，隐私优先的RAG神器
深度解析AnythingLLM开源项目：支持本地部署、隐私优先的一站式AI生产力工具。集成RAG检索增强生成、多模型切换、向量数据库，零配置开箱即用，GitHub 59K+ Star，是企业知识库和个人AI助手的理想选择。
阅读全文 →
产品体验·8 分钟
Token Savior：省77% Token让Claude基准测试100%通过的MCP服务器
Token Savior是一款开源MCP服务器，通过结构化代码导航和持久化记忆机制，将Claude的活跃Token消耗减少77%，任务完成速度提升4倍，在96个编码任务中达成100%通过率。本文详解其技术架构与实际应用价值。
阅读全文 →
产品体验·10 分钟
Hugging Face Transformers：16万Star背后的AI开源框架深度解析
深入解析Hugging Face Transformers开源框架，涵盖核心功能、Pipeline API用法、生态协同、大模型支持及未来挑战，帮助开发者全面了解这个16万Star的AI模型定义框架。
阅读全文 →
产品体验·14 分钟
LibreChat：一个界面接入所有AI模型的开源聊天平台
深度解析LibreChat开源项目，支持GPT-5、Claude、Gemini、DeepSeek等多模型统一接入，内置Agents、MCP协议、代码解释器等功能，Docker一键部署，适合个人和企业自托管的ChatGPT替代方案。
阅读全文 →
产品体验·14 分钟
Cube Studio：腾讯开源一站式AI平台，大模型训练到推理全覆盖
深度解析腾讯音乐开源的Cube Studio云原生AI平台，涵盖分布式训练、DeepSeek大模型微调、vLLM推理部署、VGPU算力管理等核心功能，支持华为昇腾国产化生态，助力企业构建私有AI基础设施。
阅读全文 →
产品体验·16 分钟
Hugging Face Transformers：16万Star AI框架核心架构与实战指南
全面解析Hugging Face Transformers开源框架，涵盖pipeline API三行代码跑模型、Hub生态80万预训练模型整合、Trainer训练工具链及多模态支持。掌握这个16万Star AI框架的核心用法与技术架构。
阅读全文 →
产品体验·15 分钟
Hermes-Agent开源框架深度解析：GitHub 13万Star的AI智能体
NousResearch开源Hermes-Agent框架，GitHub斩获13万+Star。本文深度解析其渐进式架构、模块化设计及与Hermes模型的深度整合优势，对比LangChain、AutoGPT等竞品，探讨AI Agent开发新趋势。
阅读全文 →
深度解读·5 分钟
InvokeAI深度解析：Stable Diffusion开源创意引擎凭什么拿下27000+星标？
深度解析InvokeAI这款基于Stable Diffusion的开源创意引擎，剖析其技术架构、生态定位与商业化路线，探讨它在AI绘画工具竞争中的真实处境。
阅读全文 →
深度解读·7 分钟
QuantBrain-Agent：用Qwen2.5-72B打造A股全链路自动化投研系统，每天9点准时出研报
深度解析QuantBrain-Agent开源项目，基于Qwen2.5-72B-AWQ大模型，融合LangGraph多智能体、LoRA微调、MCP工具链与CoT+ReAct架构，实现A股投研全自动化。
阅读全文 →
教程攻略·4 分钟
Ollama本地部署大模型教程：17万星标开源工具支持DeepSeek、Qwen、Kimi等主流模型
Ollama是GitHub上17万星标的开源本地大模型部署工具，一行命令即可运行DeepSeek、Qwen、Kimi-K2.5、GLM-5等主流模型。本文详解Ollama的核心优势、支持模型及本地推理的深层意义。
阅读全文 →