已验证85% 置信事实时间未知
TPS的测量通常分为两个阶段：首Token延迟（TTFT）和后续Token的生成速率（Throughput）
5
来源数
85%
置信度
长期有效
时效性
2026/6/1
首次发现
来源
涉及实体
相关事实
待验证TPOT（Time Per Output Token）指每生成一个后续token的平均耗时，总响应时间大致等于 TTFT + TPOT × 输出token数79% 相似待验证流式输出场景的性能计时需分别测量首字节延迟(TTFT)、最终完成时间和中间 chunk 吞吐率三个维度78% 相似待验证tps（tokens per second）是衡量模型推理速度的核心指标：低于30 tps会明显感到等待，60-100 tps可满足大多数对话与编码需求，100 tps以上则相当流畅。78% 相似待验证响应速度涉及首token延迟（TTFT）和整体吞吐量76% 相似待验证测量LLM首Token时间（TTFT）时，应在看到第一个token时停表，然后继续消费剩余流，而不是等到整个响应结束。72% 相似
引用此条事实
Stable URI
https://kongchang.com/claim/18528API
curl https://kongchang.com/api/v1/knowledge/claims/18528MCP
get_claim(id=18528)