LLM Gateway

一种反向代理架构，位于应用层与多个模型提供商API之间，提供统一接口、路由、限流、认证、日志等功能，借鉴传统API网关设计思路