#vLLM
共 122 篇相关文章
产品体验·4 分钟
Cube Studio开源AI平台深度评测：腾讯音乐这个MLOps全流程平台到底值不值得用？
深度解析腾讯音乐开源的Cube Studio云原生AI平台，覆盖MLOps全流程、大模型训练推理、国产芯片兼容等核心能力，帮你判断这个一站式机器学习平台是否适合你的团队。
阅读全文 →
教程攻略·4 分钟
Ollama本地部署大模型教程：17万星标开源工具支持DeepSeek、Qwen、Kimi等主流模型
Ollama是GitHub上17万星标的开源本地大模型部署工具，一行命令即可运行DeepSeek、Qwen、Kimi-K2.5、GLM-5等主流模型。本文详解Ollama的核心优势、支持模型及本地推理的深层意义。
阅读全文 →