#模型推理
共 339 篇相关文章
产品体验·8 分钟
Serena MCP工具包：赋予AI Agent IDE级编程能力的开源利器
全面解析Serena MCP工具包的核心能力，包括语义检索、AST级代码编辑、自主编程支持等功能。了解这款GitHub 23800+ Star的开源项目如何让AI Agent拥有IDE级代码理解与操作能力。
阅读全文 →
产品体验·13 分钟
Hugging Face Transformers：16万Star背后的技术架构与实战指南
深入解析Hugging Face Transformers开源框架，涵盖核心架构、Pipeline API、模型微调、多模态支持等关键技术，帮助开发者快速掌握这个拥有16万GitHub Star的AI模型定义框架。
阅读全文 →
教程攻略·9 分钟
AnythingLLM完全指南：本地部署的隐私AI生产力平台
深度解析AnythingLLM开源AI平台，涵盖本地部署、RAG文档对话、知识库管理等核心功能。支持Ollama等多模型后端，零配置开箱即用，6万Star验证的隐私优先AI生产力工具。
阅读全文 →
科技前沿
LibreChat：开源多模型AI聊天平台完整指南
·13 分钟
LibreChat：开源多模型AI聊天平台完整指南
深度解析LibreChat开源AI聊天平台，支持GPT-5、Claude、Gemini等多模型无缝切换，集成MCP协议、Agents智能体和代码解释器，提供自托管部署方案，是ChatGPT最佳开源替代方案。
阅读全文 →
教程攻略·9 分钟
GitHub 8K Star：最全LLM资源宝库深度解析
深度解析GitHub上8200+ Star的awesome-LLM-resources项目，涵盖多模态模型、AI Agent、MCP协议、模型训练推理、辅助编程等LLM核心技术板块，助你系统学习大语言模型前沿知识。
阅读全文 →
科技前沿
One API：统一管理30+大模型的开源API网关
·8 分钟
One API：统一管理30+大模型的开源API网关
One API是GitHub上32800+ Star的开源LLM网关系统，将OpenAI、Claude、Gemini、DeepSeek等30+大模型API统一为OpenAI兼容格式，支持Key管理、负载均衡、用量计费，Docker一键部署即可使用。
阅读全文 →
教程攻略·15 分钟
Ollama教程：一条命令本地运行DeepSeek等大模型
Ollama是GitHub上17万Star的开源工具，支持DeepSeek、Qwen、Kimi-K2.5等主流大模型本地运行。本文详解Ollama的核心优势、支持模型、技术架构及数据隐私价值，帮你快速上手本地AI部署。
阅读全文 →
教程攻略·15 分钟
Ollama完全指南：一行命令本地运行DeepSeek等大模型
Ollama是GitHub 17万Star的开源工具，支持一行命令本地运行DeepSeek、Qwen、Kimi-K2.5等主流大模型。本文详解Ollama的模型生态、核心优势、应用场景及为何它成为本地LLM部署的事实标准。
阅读全文 →
教程攻略·16 分钟
CowAgent深度解析：44000+ Star的开源AI助理搭建指南
深度解析GitHub 44000+ Star开源项目CowAgent（原chatgpt-on-wechat），支持微信、飞书、钉钉多平台接入，兼容GPT、DeepSeek、Qwen等主流模型，具备主动思考、技能创造和长期记忆能力，手把手教你搭建智能AI助理系统。
阅读全文 →
深度解读·10 分钟
Claude Code CLI源码解析：43个工具、144个组件的AI编程架构揭秘
深入解析Claude Code CLI开源源码架构，涵盖43个内置工具系统、React+Ink终端UI、MCP协议实现、多Agent协作机制等核心模块，为AI编程工具开发提供完整架构参考。
阅读全文 →
产品体验·8 分钟
天枢：开源AI文档解析平台，PDF转Markdown一站式方案
天枢（mineru-tianshu）是一款企业级开源AI文档预处理平台，支持PDF/Office转Markdown、MCP协议AI助手集成，采用Vue3+FastAPI全栈架构，为RAG系统和企业知识库提供高质量结构化数据源。
阅读全文 →
教程攻略·12 分钟
Ollama教程：一行命令本地运行DeepSeek等大模型
详解Ollama本地部署大模型的完整指南，支持DeepSeek、Qwen、Gemma等主流开源模型。了解Ollama的安装使用、核心优势、技术架构及适用场景，零API费用实现数据隐私保护。
阅读全文 →
产品体验·17 分钟
Hugging Face Transformers：16万Star开源框架深度解析
深度解析Hugging Face Transformers开源框架，涵盖核心功能、API设计、模型生态及实战代码示例。了解这个16万Star项目如何降低AI使用门槛，推动大语言模型、计算机视觉和多模态AI的民主化发展。
阅读全文 →
产品体验·9 分钟
CowAgent开源项目深度解析：44000 Star的AI Agent如何炼成
深度解析GitHub热门开源项目CowAgent（原chatgpt-on-wechat），详解其主动思考、Skills创造、长期记忆等核心Agent能力，以及微信、飞书、钉钉等多平台接入方案，助你快速搭建企业级AI助理。
阅读全文 →
产品体验·10 分钟
CowAgent开源AI助理深度解析：4.4万Star的智能体框架
深度解析GitHub 4.4万Star开源项目CowAgent，一款基于大模型的超级AI助理框架，支持微信、飞书、钉钉等多平台接入，具备主动思考、任务规划、技能创造等Agent能力，支持GPT、DeepSeek、Qwen等主流模型。
阅读全文 →
产品体验·7 分钟
Unsloth：免费本地训练大模型神器，6万星开源项目详解
Unsloth是GitHub上6.3万星的开源大模型本地训练工具，支持Gemma 4、Qwen 3、DeepSeek等主流模型微调，提供Web UI图形界面，大幅降低LLM微调门槛。本文详解其核心功能、技术优势与适用场景。
阅读全文 →
产品体验·10 分钟
GitHub 8K星：最全LLM学习资源库深度解析
深度解析GitHub热门项目awesome-LLM-resources，涵盖多模态生成、AI Agent、MCP协议、模型训练推理、小语言模型等LLM核心方向，8200+星标的一站式大语言模型学习资源指南。
阅读全文 →
产品体验·8 分钟
Cube Studio深度解析：腾讯开源云原生AI平台，MLOps全流程实战指南
深度解析腾讯音乐开源的Cube Studio云原生AI平台，覆盖分布式训练、大模型SFT/RLHF微调、vLLM推理部署、VGPU虚拟化、国产昇腾适配等核心能力，助力企业快速构建MLOps全流程体系。
阅读全文 →
产品体验·10 分钟
Cube Studio深度解析：腾讯开源一站式MLOps平台实战指南
深度解析腾讯开源AI平台Cube Studio的架构设计与核心能力，涵盖大模型训练微调、vLLM推理部署、分布式训练框架生态、昇腾国产化适配及VGPU算力管理，帮助企业快速构建私有化MLOps全流程。
阅读全文 →
产品体验·8 分钟
UnrealGenAISupport：UE5一站式AI集成插件深度解析
深度解析UnrealGenAISupport开源插件，集成GPT-5、Claude、Gemini等数十种AI模型，内置MCP服务器支持UE5编辑器操控，实现智能NPC对话、3D资产生成、AI Agent工作流，是虚幻引擎5接入生成式AI的首选方案。
阅读全文 →