投机解码技术在编码等可预测任务中可实现约3倍加速且不损失质量，其原理是小模型预测多个token再由大模型验证，共享KV缓存。