#LiteLLM

共 5 篇相关文章

PyPI 上的 LiteLLM 1.107.0 版本被篡改，安装后植入凭据窃取器与后门。本文分析攻击路径、对 AI 项目的实际危害，并给出依赖校验、密钥隔离与异常外联监测等供应链防护要点。

LiteLLM 把 Homelab 里散乱的本地与云端大模型统一成一个 OpenAI 兼容网关，支持瀑布式故障转移、负载均衡与成本控制。本文详解其核心概念、路由策略、部署方式与实战配置。

LiteLLM 作为统一网关，为本地 LLM 实现大小模型自动路由。本文结合 Pi Coding Agent 实测，解析启发式与 LLM 两种分类器的工作原理，演示 Ollama、MLX 多模型按任务复杂度智能分流的完整工作流。

详解如何通过LiteLLM Proxy将Claude Agent SDK的API请求重定向到本地大模型，在保留完整Agent框架能力的同时将推理成本降为零。含架构设计、实战演示与企业级部署方案。

深入解析LiteLLM开源AI网关，支持统一调用100+大模型API，涵盖OpenAI、Claude、Gemini等。详解其核心功能、两种使用模式及企业级应用场景，助你高效管理多模型集成。