待验证50% 置信事实精确时间
TTFT决定用户从发出请求到看到第一个字的等待时间,ITL决定后续内容的生成节奏
1
来源数
50%
置信度
长期有效
时效性
2026/9/15
首次发现
来源
涉及实体
相关事实
待验证首字延迟(TTFT)指从用户发出请求到模型输出第一个 token 之间的时间间隔,主要受制于模型对输入 prompt 的预填充(prefill)阶段耗时78% 相似待验证TTFT由Prefill阶段决定受算力约束,TPOT对应Decode阶段受内存带宽约束69% 相似待验证流式STT和TTS允许系统在处理未完成时就开始并行处理,从而压缩用户感知到的等待时间64% 相似待验证在流式输出模式下,系统可在收到第一个Token时立即启动TTS合成,无需等待完整回复生成62% 相似待验证ConverseStream 能力允许模型在生成过程中逐块(chunk)返回内容,缩短首字延迟(TTFT)61% 相似
引用此条事实
Stable URI
https://kongchang.com/claim/922968API
curl https://kongchang.com/api/v1/knowledge/claims/922968MCP
get_claim(id=922968)