#vLLM
共 122 篇相关文章
产品体验·12 分钟
Unsloth：本地微调大模型速度提升5倍的开源利器
Unsloth是GitHub 63K+星标的开源大模型微调工具，支持Gemma 4、Qwen 3、DeepSeek等主流模型，通过LoRA/QLoRA技术将训练速度提升2-5倍，显存降低80%，提供Web UI界面让本地微调大模型变得简单高效。
阅读全文 →
教程攻略·15 分钟
Ollama完全指南：一行命令本地运行DeepSeek等大模型
Ollama是GitHub 17万Star的开源工具，支持一行命令本地运行DeepSeek、Qwen、Kimi-K2.5等主流大模型。本文详解Ollama的模型生态、核心优势、应用场景及为何它成为本地LLM部署的事实标准。
阅读全文 →
产品体验·8 分钟
NetCoreKevin：.NET企业级AI知识库智能体开源架构实战
深度解析NetCoreKevin开源项目，基于.NET集成Semantic Kernel与RAG技术构建AI知识库智能体，支持多租户SaaS架构、MCP协议、分布式事务等企业级能力，附完整技术栈分析与适用场景。
阅读全文 →
产品体验·8 分钟
gpt4free：免费调用GPT-4、Claude等顶级大模型的开源神器
深度解析GitHub热门开源项目gpt4free，支持免费调用GPT-4、Claude、Gemini、DeepSeek等主流大模型API。本文详解其核心功能、技术实现、使用风险及合规替代方案，帮助开发者做出明智选择。
阅读全文 →
产品体验·17 分钟
Hugging Face Transformers：16万Star开源框架深度解析
深度解析Hugging Face Transformers开源框架，涵盖核心功能、API设计、模型生态及实战代码示例。了解这个16万Star项目如何降低AI使用门槛，推动大语言模型、计算机视觉和多模态AI的民主化发展。
阅读全文 →
产品体验·10 分钟
Chatbox开源AI客户端：4万Star背后的实力与使用指南
深度解析Chatbox开源AI客户端，一款支持多模型切换、本地数据存储的桌面应用。近4万GitHub Star，支持OpenAI、Claude等API接入，适合个人开发者和企业用户的AI交互工具。
阅读全文 →
产品体验·9 分钟
Chatbox：近4万Star的开源AI客户端，支持多模型统一管理
深度解析开源AI客户端Chatbox的核心功能与技术架构。支持GPT、Claude、Ollama等多模型接入，数据本地存储保护隐私，跨平台覆盖Windows/macOS/Linux，GitHub近4万Star的标杆级AI桌面工具。
阅读全文 →
产品体验·10 分钟
GitHub 8K星：最全LLM学习资源库深度解析
深度解析GitHub热门项目awesome-LLM-resources，涵盖多模态生成、AI Agent、MCP协议、模型训练推理、小语言模型等LLM核心方向，8200+星标的一站式大语言模型学习资源指南。
阅读全文 →
产品体验·13 分钟
AnythingLLM：6万Star开源AI知识库，本地部署隐私优先
AnythingLLM是GitHub近6万Star的开源AI知识库工具，支持本地部署、RAG检索增强生成、多模型切换和文档解析，零配置开箱即用，为企业和个人提供隐私优先的AI生产力方案。
阅读全文 →
产品体验·8 分钟
Cube Studio深度解析：腾讯开源云原生AI平台，MLOps全流程实战指南
深度解析腾讯音乐开源的Cube Studio云原生AI平台，覆盖分布式训练、大模型SFT/RLHF微调、vLLM推理部署、VGPU虚拟化、国产昇腾适配等核心能力，助力企业快速构建MLOps全流程体系。
阅读全文 →
产品体验·8 分钟
One API：统一管理30+大模型的开源API网关完整指南
One API是GitHub 32K+ Star的开源大模型API网关，支持OpenAI、Claude、DeepSeek等30+模型统一接入。详解核心功能、Docker部署、Key管理、负载均衡与企业级应用场景，附技术架构深度解析。
阅读全文 →
产品体验·7 分钟
DeepSeek API集成生态全景：37000+ Star开源项目深度解析
深度解析DeepSeek官方维护的awesome-deepseek-integration开源项目，涵盖37000+ Star背后的集成生态、核心价值、开发者接入指南及未来趋势，助你快速将DeepSeek API接入主流软件工作流。
阅读全文 →
产品体验·10 分钟
Cube Studio深度解析：腾讯开源一站式MLOps平台实战指南
深度解析腾讯开源AI平台Cube Studio的架构设计与核心能力，涵盖大模型训练微调、vLLM推理部署、分布式训练框架生态、昇腾国产化适配及VGPU算力管理，帮助企业快速构建私有化MLOps全流程。
阅读全文 →
教程攻略·3 分钟
GitHub 8K Star：最全LLM学习资源库深度解析
深度解析GitHub上8200+ Star的awesome-LLM-resources项目，涵盖多模态生成、AI Agent、MCP协议、模型训练推理、辅助编程等十余个LLM核心方向，附高效使用建议与学习路线推荐。
阅读全文 →
产品体验·4 分钟
Cube Studio：腾讯开源一站式云原生AI平台深度解析
深度解析腾讯音乐开源的Cube Studio云原生AI平台，涵盖MLOps全流程、大模型训练推理、分布式训练框架支持、VGPU虚拟化及国产化适配等核心能力，帮助企业高效构建AI基础设施。
阅读全文 →
教程攻略·9 分钟
GitHub 8000+ Star：最全LLM学习资源库深度解析
深度解析GitHub万星项目awesome-LLM-resources，涵盖多模态、AI Agent、MCP协议、模型训练推理、辅助编程等十大核心模块，为LLM开发者和研究者提供一站式学习导航。
阅读全文 →
产品体验·10 分钟
Hugging Face Transformers：16万Star背后的AI开源框架深度解析
深入解析Hugging Face Transformers开源框架，涵盖核心功能、Pipeline API用法、生态协同、大模型支持及未来挑战，帮助开发者全面了解这个16万Star的AI模型定义框架。
阅读全文 →
产品体验·14 分钟
Cube Studio：腾讯开源一站式AI平台，大模型训练到推理全覆盖
深度解析腾讯音乐开源的Cube Studio云原生AI平台，涵盖分布式训练、DeepSeek大模型微调、vLLM推理部署、VGPU算力管理等核心功能，支持华为昇腾国产化生态，助力企业构建私有AI基础设施。
阅读全文 →
产品体验·16 分钟
Hugging Face Transformers：16万Star AI框架核心架构与实战指南
全面解析Hugging Face Transformers开源框架，涵盖pipeline API三行代码跑模型、Hub生态80万预训练模型整合、Trainer训练工具链及多模态支持。掌握这个16万Star AI框架的核心用法与技术架构。
阅读全文 →
产品体验·9 分钟
awesome-LLM-resources：8000+ Star的大语言模型学习资源库
awesome-LLM-resources是GitHub上8200+ Star的LLM资源合集，涵盖多模态生成、AI Agent、模型训练推理、MCP协议等方向，为AI研究者和工程师提供从入门到进阶的系统学习路径。
阅读全文 →