#vLLM
共 335 篇相关文章
产品体验·9 分钟
Chatbox：近4万Star的开源AI客户端，支持多模型统一管理
深度解析开源AI客户端Chatbox的核心功能与技术架构。支持GPT、Claude、Ollama等多模型接入，数据本地存储保护隐私，跨平台覆盖Windows/macOS/Linux，GitHub近4万Star的标杆级AI桌面工具。
阅读全文 →
产品体验·10 分钟
GitHub 8K星：最全LLM学习资源库深度解析
深度解析GitHub热门项目awesome-LLM-resources，涵盖多模态生成、AI Agent、MCP协议、模型训练推理、小语言模型等LLM核心方向，8200+星标的一站式大语言模型学习资源指南。
阅读全文 →
产品体验·13 分钟
AnythingLLM：6万Star开源AI知识库，本地部署隐私优先
AnythingLLM是GitHub近6万Star的开源AI知识库工具，支持本地部署、RAG检索增强生成、多模型切换和文档解析，零配置开箱即用，为企业和个人提供隐私优先的AI生产力方案。
阅读全文 →
产品体验·8 分钟
Cube Studio深度解析：腾讯开源云原生AI平台，MLOps全流程实战指南
深度解析腾讯音乐开源的Cube Studio云原生AI平台，覆盖分布式训练、大模型SFT/RLHF微调、vLLM推理部署、VGPU虚拟化、国产昇腾适配等核心能力，助力企业快速构建MLOps全流程体系。
阅读全文 →
产品体验·7 分钟
DeepSeek API集成生态全景：37000+ Star开源项目深度解析
深度解析DeepSeek官方维护的awesome-deepseek-integration开源项目，涵盖37000+ Star背后的集成生态、核心价值、开发者接入指南及未来趋势，助你快速将DeepSeek API接入主流软件工作流。
阅读全文 →
产品体验·10 分钟
Cube Studio深度解析：腾讯开源一站式MLOps平台实战指南
深度解析腾讯开源AI平台Cube Studio的架构设计与核心能力，涵盖大模型训练微调、vLLM推理部署、分布式训练框架生态、昇腾国产化适配及VGPU算力管理，帮助企业快速构建私有化MLOps全流程。
阅读全文 →
教程攻略·3 分钟
GitHub 8K Star：最全LLM学习资源库深度解析
深度解析GitHub上8200+ Star的awesome-LLM-resources项目，涵盖多模态生成、AI Agent、MCP协议、模型训练推理、辅助编程等十余个LLM核心方向，附高效使用建议与学习路线推荐。
阅读全文 →
产品体验·4 分钟
Cube Studio：腾讯开源一站式云原生AI平台深度解析
深度解析腾讯音乐开源的Cube Studio云原生AI平台，涵盖MLOps全流程、大模型训练推理、分布式训练框架支持、VGPU虚拟化及国产化适配等核心能力，帮助企业高效构建AI基础设施。
阅读全文 →
教程攻略·9 分钟
GitHub 8000+ Star：最全LLM学习资源库深度解析
深度解析GitHub万星项目awesome-LLM-resources，涵盖多模态、AI Agent、MCP协议、模型训练推理、辅助编程等十大核心模块，为LLM开发者和研究者提供一站式学习导航。
阅读全文 →
产品体验·10 分钟
Hugging Face Transformers：16万Star背后的AI开源框架深度解析
深入解析Hugging Face Transformers开源框架，涵盖核心功能、Pipeline API用法、生态协同、大模型支持及未来挑战，帮助开发者全面了解这个16万Star的AI模型定义框架。
阅读全文 →
产品体验·14 分钟
Cube Studio：腾讯开源一站式AI平台，大模型训练到推理全覆盖
深度解析腾讯音乐开源的Cube Studio云原生AI平台，涵盖分布式训练、DeepSeek大模型微调、vLLM推理部署、VGPU算力管理等核心功能，支持华为昇腾国产化生态，助力企业构建私有AI基础设施。
阅读全文 →
产品体验·16 分钟
Hugging Face Transformers：16万Star AI框架核心架构与实战指南
全面解析Hugging Face Transformers开源框架，涵盖pipeline API三行代码跑模型、Hub生态80万预训练模型整合、Trainer训练工具链及多模态支持。掌握这个16万Star AI框架的核心用法与技术架构。
阅读全文 →
产品体验·9 分钟
awesome-LLM-resources：8000+ Star的大语言模型学习资源库
awesome-LLM-resources是GitHub上8200+ Star的LLM资源合集，涵盖多模态生成、AI Agent、模型训练推理、MCP协议等方向，为AI研究者和工程师提供从入门到进阶的系统学习路径。
阅读全文 →
产品体验·4 分钟
Cube Studio开源AI平台深度评测：腾讯音乐这个MLOps全流程平台到底值不值得用？
深度解析腾讯音乐开源的Cube Studio云原生AI平台，覆盖MLOps全流程、大模型训练推理、国产芯片兼容等核心能力，帮你判断这个一站式机器学习平台是否适合你的团队。
阅读全文 →
教程攻略·4 分钟
Ollama本地部署大模型教程：17万星标开源工具支持DeepSeek、Qwen、Kimi等主流模型
Ollama是GitHub上17万星标的开源本地大模型部署工具，一行命令即可运行DeepSeek、Qwen、Kimi-K2.5、GLM-5等主流模型。本文详解Ollama的核心优势、支持模型及本地推理的深层意义。
阅读全文 →