概念
model routing
模型路由策略,根据任务类型、延迟要求或成本预算将请求动态分发给不同 AI 模型,以优化性能与成本。
时间轴 (近 90 天)
10月20日
多模型组合(model ensemble / routing)按任务类型分派不同模型,可形成互补的盲区覆盖,但代价是集成复杂度和延迟上升。
待验证50%
10月12日
应衡量每个已完成任务的成本而非每token成本,前提是运行时会主动进行模型路由
待验证50%
10月9日
开源的交互层将「如何说话」与「谁来思考」解耦,与模型路由(model routing)理念相通
待验证50%