#大模型推理
共 93 篇相关文章
产品体验·12 分钟
Cube Studio深度解析：腾讯开源一站式云原生AI平台
深度解析腾讯开源AI平台Cube Studio，覆盖分布式训练、大模型微调、推理部署、VGPU虚拟化及国产化适配等核心功能，帮助企业构建MLOps全流程一站式AI基础设施。
阅读全文 →
产品体验·11 分钟
Hugging Face Transformers：16万Star背后的技术架构与生态解析
深入解析Hugging Face Transformers开源框架，涵盖技术架构、四大模态支持、Pipeline API用法及与Hub生态整合。了解这个16万Star项目如何成为AI开发者必备工具，以及它在大模型时代的战略地位与未来方向。
阅读全文 →
科技前沿
One API：统一管理30+大模型的开源API网关
·8 分钟
One API：统一管理30+大模型的开源API网关
One API是GitHub上32800+ Star的开源LLM网关系统，将OpenAI、Claude、Gemini、DeepSeek等30+大模型API统一为OpenAI兼容格式，支持Key管理、负载均衡、用量计费，Docker一键部署即可使用。
阅读全文 →
教程攻略·15 分钟
Ollama完全指南：一行命令本地运行DeepSeek等大模型
Ollama是GitHub 17万Star的开源工具，支持一行命令本地运行DeepSeek、Qwen、Kimi-K2.5等主流大模型。本文详解Ollama的模型生态、核心优势、应用场景及为何它成为本地LLM部署的事实标准。
阅读全文 →
教程攻略·16 分钟
CowAgent深度解析：44000+ Star的开源AI助理搭建指南
深度解析GitHub 44000+ Star开源项目CowAgent（原chatgpt-on-wechat），支持微信、飞书、钉钉多平台接入，兼容GPT、DeepSeek、Qwen等主流模型，具备主动思考、技能创造和长期记忆能力，手把手教你搭建智能AI助理系统。
阅读全文 →
产品体验·8 分钟
Cube Studio深度解析：腾讯开源云原生AI平台，MLOps全流程实战指南
深度解析腾讯音乐开源的Cube Studio云原生AI平台，覆盖分布式训练、大模型SFT/RLHF微调、vLLM推理部署、VGPU虚拟化、国产昇腾适配等核心能力，助力企业快速构建MLOps全流程体系。
阅读全文 →
产品体验·10 分钟
Cube Studio深度解析：腾讯开源一站式MLOps平台实战指南
深度解析腾讯开源AI平台Cube Studio的架构设计与核心能力，涵盖大模型训练微调、vLLM推理部署、分布式训练框架生态、昇腾国产化适配及VGPU算力管理，帮助企业快速构建私有化MLOps全流程。
阅读全文 →
产品体验·8 分钟
UnrealGenAISupport：UE5一站式AI集成插件深度解析
深度解析UnrealGenAISupport开源插件，集成GPT-5、Claude、Gemini等数十种AI模型，内置MCP服务器支持UE5编辑器操控，实现智能NPC对话、3D资产生成、AI Agent工作流，是虚幻引擎5接入生成式AI的首选方案。
阅读全文 →
教程攻略·15 分钟
Ollama教程：一键本地部署DeepSeek等大模型
Ollama是GitHub上17万Star的开源工具，支持DeepSeek、Qwen、Gemma等主流大模型本地运行。本文详解Ollama的安装使用、支持模型、适用场景及核心优势，助你快速实现大模型本地化部署。
阅读全文 →
教程攻略·9 分钟
GitHub 8000+ Star：最全LLM学习资源库深度解析
深度解析GitHub万星项目awesome-LLM-resources，涵盖多模态、AI Agent、MCP协议、模型训练推理、辅助编程等十大核心模块，为LLM开发者和研究者提供一站式学习导航。
阅读全文 →
产品体验·10 分钟
Hugging Face Transformers：16万Star背后的AI开源框架深度解析
深入解析Hugging Face Transformers开源框架，涵盖核心功能、Pipeline API用法、生态协同、大模型支持及未来挑战，帮助开发者全面了解这个16万Star的AI模型定义框架。
阅读全文 →
产品体验·14 分钟
LibreChat：一个界面接入所有AI模型的开源聊天平台
深度解析LibreChat开源项目，支持GPT-5、Claude、Gemini、DeepSeek等多模型统一接入，内置Agents、MCP协议、代码解释器等功能，Docker一键部署，适合个人和企业自托管的ChatGPT替代方案。
阅读全文 →
