待验证60% 置信事实精确时间
通常认为单并发 100 tokens/秒以上即可实现流畅的打字机效果，约 200 tokens/秒生成 2000 字长文本仅需约 10 秒
2
来源数
60%
置信度
长期有效
时效性
2026/7/16
首次发现
来源
相关事实
待验证8 人并发时，每人 19 tokens/s，合计 130 tokens/s，首 token 延迟 2 到 8 秒76% 相似待验证Perplexity 公布自测延迟（9月30日）：几百输入 token 低于 2 秒，90k token 约 5 秒，190k token 约 14 秒，接近 262k 上限约 23 秒。75% 相似待验证长上下文对生成速度影响很小：4K 上下文后每个输出 token 中位耗时 7.6 ms，256K 之后是 8.3 ms；但首次读 128K token 的 prompt 要 18.33 秒，因此 prefix caching 很关键。74% 相似待验证并发场景下多个请求会平均分摊生成速度，例如单请求40 token/s时4并发下每个约10 token/s74% 相似待验证命中前缀缓存时，数万 token 的重复 prefill 可以近乎跳过，首 token 延迟从数秒降到毫秒级。74% 相似
引用此条事实
Stable URI
https://kongchang.com/claim/530685API
curl https://kongchang.com/api/v1/knowledge/claims/530685MCP
get_claim(id=530685)