待验证60% 置信事实时间未知
一个需要20次LLM调用、每次生成200个Token的Agent任务,在30 TPS下需要约133秒完成,在300 TPS下仅需13秒
2
来源数
60%
置信度
长期有效
时效性
2026/6/1
首次发现
来源
涉及实体
相关事实
待验证在4M TPM前提下,400K上下文的Agent长轮次每分钟最多可触发10个请求(触及TPM上限),满载上下文请求每分钟仅4个。80% 相似已验证传统API网关处理的请求-响应周期通常在50到200毫秒内完成,而LLM API经常需要保持连接30到120秒。76% 相似已验证在 T4 显卡上,Laya 单个问题耗时 33 毫秒,批量处理可压到 7 毫秒76% 相似待验证在约4K输入时TTFT为23.6秒、解码46.6 tok/s;8K时47秒、41.4 tok/s;16K时1分30秒、30.8 tok/s;30K时3分15秒、31.9 tok/s75% 相似待验证遥操作采集一条完整示教通常需要30-120秒,加上重置环境时间,单人每小时有效采集量约为20-40条轨迹75% 相似
引用此条事实
Stable URI
https://kongchang.com/claim/18525API
curl https://kongchang.com/api/v1/knowledge/claims/18525MCP
get_claim(id=18525)