待验证50% 置信基准精确时间
双DGX Spark方案预填充约2,100 tokens/s,128K提示词首次等待约63秒;单台带宽273GB/s,开启DraftHead后代码场景写入87 tokens/s、结构化输出131 tokens/s。
1
来源数
50%
置信度
中期 (~90 天)
时效性
2026/10/31
首次发现
有效期至:2027/1/29
来源
涉及实体
相关事实
待验证通常认为单并发 100 tokens/秒以上即可实现流畅的打字机效果,约 200 tokens/秒生成 2000 字长文本仅需约 10 秒73% 相似待验证在 4 台 DGX Spark 的 TP4 配置下,TTFT 实测为:6 万多 Token 约 12 秒(约 5400 Token/s),26 万 Token 约 54 秒(约 4800 Token/s),100 万 Token 约 4 分 54 秒(约 3400 Token/s)。73% 相似待验证关闭思考模式、16 路合计时,代码任务生成速度为 369.9 Token/s,散文为 317.8 Token/s;单路视角下代码 119.8 Token/s,散文 71.2 Token/s。71% 相似待验证在八个智能体各处理 7.5k token 文档、第二秒发出聊天请求的测试场景下,Superfluid 用 0.36 秒给出回答,llama-server 超过 10 秒未输出首 token,首 token 延迟差距约 30 倍。69% 相似待验证在测试环境中 MiniMax M3.1 Flash 的输出吞吐稳定在约每秒 112 个 token,一次 6,000 token 的思考约需接近一分钟的实际时间。68% 相似
引用此条事实
Stable URI
https://kongchang.com/claim/1121823API
curl https://kongchang.com/api/v1/knowledge/claims/1121823MCP
get_claim(id=1121823)