待验证60% 置信事实精确时间
首字节响应时间(TTFB)反映从请求发出到模型返回第一个token之间的延迟,涵盖网络传输、请求队列等待和模型预热时间
2
来源数
60%
置信度
长期有效
时效性
2026/7/13
首次发现
来源
Codex额度不够用?HeyRoute接入GPT-5.5深度测评
bilibiliManCity-DeBruyne2026/7/10
相关事实
已验证TTFT(首个token生成时间)是衡量LLM用户体验的核心指标,决定用户从提交请求到看到第一个字符的等待时长73% 相似待验证LLM推理延迟通常细分为首Token延迟(TTFT, Time To First Token)和每Token生成时间(TPOT, Time Per Output Token)66% 相似待验证TTFT(首token延迟)是衡量交互式应用体验的核心指标65% 相似待验证TTFT(首 Token 等待时间)主要由预填充阶段决定,计算量与上下文长度近似成正比;前缀缓存(prefix caching)可复用已算好的 KV 状态,仅对新增部分做预填充。64% 相似待验证在高并发RAG服务场景下,存储的延迟与吞吐直接决定整体响应时间64% 相似
引用此条事实
Stable URI
https://kongchang.com/claim/495233API
curl https://kongchang.com/api/v1/knowledge/claims/495233MCP
get_claim(id=495233)