已验证65% 置信事实时间未知
LiteLLM提供Python SDK和Proxy Server（AI Gateway）两种使用模式
3
来源数
65%
置信度
长期有效
时效性
2026/6/1
首次发现
来源
LiteLLM：统一调用100+大模型API的开源网关详解
githubBerriAI
涉及实体
相关事实
待验证LiteLLM的Proxy模式运行为独立的FastAPI服务，支持虚拟密钥管理、团队级预算限制、请求重试和回退链配置，可通过YAML配置文件定义模型组、优先级和限流规则76% 相似待验证SAP AI Core LLM Proxy使用Python开发73% 相似已验证LiteLLM、Portkey、Kong AI Gateway是典型的AI网关开源或商业实现71% 相似待验证Palimpsest Gateway 采用MIT协议开源，基于Python/FastAPI编写，可通过docker compose up运行66% 相似待验证LiteLLM 的本地 provider 包括 ollama、llama_cpp、vllm、tgi 等64% 相似
引用此条事实
Stable URI
https://kongchang.com/claim/28274API
curl https://kongchang.com/api/v1/knowledge/claims/28274MCP
get_claim(id=28274)