概念99th percentile latency
P99延迟
延迟分布中的一个分位指标，表示99%的请求延迟不超过该数值，用于衡量尾延迟。
时间轴 (近 90 天)
10月29日
在线决策链路真正敏感的是 P95 或 P99 延迟，因为超时和尾延迟往往决定系统是否需要降级或设置兜底规则。
待验证50%
10月29日
延迟感受高度依赖上下文，不存在放之四海而皆准的毫秒数，工程目标应锁定约1.5秒的舒适区间；一致性比峰值速度更重要，应关注P99延迟而非峰值速度。
待验证50%
10月14日
评估向量索引的核心指标包括召回率（Recall@k）、P99延迟、QPS（吞吐）、索引构建时间与内存。
待验证50%
9月15日
在Agent场景中一次复杂任务往往需要多次LLM调用串联，因此对P99延迟的控制比平均延迟更具实际意义
待验证50%
9月11日
对于交互式搜索，P99延迟通常需要控制在几百毫秒以内
待验证50%