待验证50% 置信事实精确时间

投机采样（Speculative Decoding）在不损失输出质量的前提下可实现2-3倍的速度提升，已被Google（PaLM 2）、DeepMind（Medusa）等采用

1

来源数

50%

置信度

长期有效

时效性

2026/7/22

首次发现

来源

GPT-5.6推理提速18倍：OpenAI的算力豪赌与商业逻辑

相关事实

待验证投机解码（Speculative Decoding）技术相比逐Token串行生成可带来3-5倍的速度提升80% 相似待验证投机解码技术由轻量草稿模型先生成候选Token序列再由主模型并行验证，相比逐Token串行生成可带来3-5倍速度提升65% 相似待验证Decode阶段属于访存密集型操作，整体吞吐受制于显存带宽而非算力65% 相似待验证投机解码主要优化TPOT（每Token生成耗时）指标，在低并发Memory-bound场景下将闲置算力转化为草稿验证的并行计算，单用户速率提升幅度显著63% 相似

引用此条事实

Stable URI

https://kongchang.com/claim/590290

API

curl https://kongchang.com/api/v1/knowledge/claims/590290

MCP

get_claim(id=590290)