概念Hedged Request / 对冲请求
投机执行
兼顾延迟与成本的请求策略：首请求发出后若在设定时限内未返回，再并行发出第二请求
时间轴 (近 90 天)
10月29日
投机执行（hedged request）是一种折中方案：首请求发出后若在设定时限内未返回，再并行发出第二请求，兼顾延迟与成本。
待验证50%
9月8日
投机执行(speculative execution)指同时向大小模型发送请求，取小模型结果若质量达标则丢弃大模型结果，但会带来额外计算资源浪费，只在延迟极度敏感场景值得考虑
待验证50%