[控场AI]
概念Queries Per Second

QPS

衡量 API 端点每秒可接受请求数的指标,通常由服务端按时间窗口对每个账户或每个 Key 进行独立限流。

时间轴 (近 90 天)

10月31日

AI产品的QPS相比传统互联网后端低得多,互联网产品QPS能上百,AI产品做Agent项目一个请求平均可能要100秒,QPS为1已经算快。

待验证50%
10月14日

评估向量索引的核心指标包括召回率(Recall@k)、P99延迟、QPS(吞吐)、索引构建时间与内存。

待验证50%
10月14日

基准测试的公平性取决于是否固定召回率目标(如都在Recall@10=0.95下对比延迟),否则单纯比较QPS数字容易产生误导。

待验证50%
9月11日

决定该架构实际表现的关键变量包括实际QPS、动态计算复杂度和缓存命中率

待验证50%

全部知识事实 (4)

来源文章