已验证65% 置信基准精确时间
在 T4 显卡上，Laya 单个问题耗时 33 毫秒，批量处理可压到 7 毫秒
3
来源数
65%
置信度
中期 (~90 天)
时效性
2026/9/24
首次发现
有效期至：2026/12/23
来源
涉及实体
相关事实
待验证在约4K输入时TTFT为23.6秒、解码46.6 tok/s；8K时47秒、41.4 tok/s；16K时1分30秒、30.8 tok/s；30K时3分15秒、31.9 tok/s79% 相似待验证在测试机器（Intel i5-13420H、16 GB内存、无独显）上，Laya-Heart卡片中位延迟0.44秒，第一条完整回复3.6秒，两条5.8秒；空闲机器上分别为0.39秒、3.5秒、5.0秒。79% 相似待验证在同一台设备上，仅在预加载阶段移除 30fps 的帧率限制，加载时间从 4.1 秒降到了 1.7 秒77% 相似待验证一个需要20次LLM调用、每次生成200个Token的Agent任务，在30 TPS下需要约133秒完成，在300 TPS下仅需13秒76% 相似待验证在 B200 上一次 3 问题护栏检查从 11.6 ms 降至 2.8 ms，Laya 加载时间从约 17 秒缩短到约 9 秒75% 相似
引用此条事实
Stable URI
https://kongchang.com/claim/947056API
curl https://kongchang.com/api/v1/knowledge/claims/947056MCP
get_claim(id=947056)