#模型推理

共 1307 篇相关文章

深度解析LibreChat开源项目，支持GPT-5、Claude、Gemini、DeepSeek等多模型统一接入，内置Agents、MCP协议、代码解释器等功能，Docker一键部署，适合个人和企业自托管的ChatGPT替代方案。

深度解析腾讯音乐开源的Cube Studio云原生AI平台，涵盖分布式训练、DeepSeek大模型微调、vLLM推理部署、VGPU算力管理等核心功能，支持华为昇腾国产化生态，助力企业构建私有AI基础设施。

awesome-LLM-resources是GitHub上8200+ Star的LLM资源合集，涵盖多模态生成、AI Agent、模型训练推理、MCP协议等方向，为AI研究者和工程师提供从入门到进阶的系统学习路径。

深度解析QuantBrain-Agent开源项目，基于Qwen2.5-72B-AWQ大模型，融合LangGraph多智能体、LoRA微调、MCP工具链与CoT+ReAct架构，实现A股投研全自动化。

深度解读GitHub热门项目awesome-LLM-resources，一个8200+ Star的LLM资料总结仓库，覆盖多模态生成、Agent、辅助编程、o1模型、MCP、小语言模型等核心方向。

深度解析Unsloth开源项目：通过Web UI实现本地大模型微调与推理，支持Gemma 4、Qwen3.6、DeepSeek等主流模型，显存降低70%，速度提升5倍。

深度解析Hugging Face Transformers开源框架，涵盖文本、视觉、音频、多模态模型的推理与训练，16万GitHub星标背后的技术实力与社区生态。