p95
百分位延迟指标，表示95%的任务在给定时间内完成，用于衡量长尾请求的耗时表现，常作为服务等级目标(SLO)的核心指标。
时间轴 (近 90 天)
p95 任务完成时间从 29.5 分钟降至 15.7 分钟，等价于最慢的 5% 任务等待时间缩短约 47%。
分位数样本数不足20个时，p95没有统计意义，应跳过报告。
如果p50正常但p95偏高，问题通常是间歇性的，如冷连接、超长prompt、重试或网络抖动；这类问题不会出现在均值里。
用十二个样本计算 p95 实际上落在第 11 与第 12 个样本之间，几乎是第二慢的那次，极不稳定
要谈 p95 至少需要几十个样本，p99 需要上百个；十二次只能提供存在性证据（缺失 usage 字段、429、尾部是两秒还是二十秒），不能精确估计分位数
把超时压在观测 p95 之下意味着主动放弃约5%的调用以换取循环时长有上界，这个取舍是否可接受取决于任务能否容忍跳过
估算器对长diff的过度计数严重到把中等规模prompt推上pinned路径，而最初的上限设得太低；修复方法是读免费路由的tokens_median和p95，把上限设在实际发送量的95分位。
p95指把所有观测值排序后位于第95百分位的数值，意味着95%的调用不超过它；相比平均值，p95不会被少数极小值拉低，也不会被极端离群值主导，能更真实地反映绝大多数情况下会发送多大的prompt。
TTFT分布呈右偏长尾特征，应报告p95等分位数而非均值，因为均值对离群值极度敏感且人们记住的是最差的交互
p95表示所有测量样本中有95%的请求延迟低于该值，反映最差5%用户经历的延迟上界
还有 2 条时间轴事件
全部知识事实 (12)
p95 任务完成时间从 29.5 分钟降至 15.7 分钟，等价于最慢的 5% 任务等待时间缩短约 47%。
50%待验证分位数样本数不足20个时，p95没有统计意义，应跳过报告。
50%待验证如果p50正常但p95偏高，问题通常是间歇性的，如冷连接、超长prompt、重试或网络抖动；这类问题不会出现在均值里。
50%待验证用十二个样本计算 p95 实际上落在第 11 与第 12 个样本之间，几乎是第二慢的那次，极不稳定
50%待验证要谈 p95 至少需要几十个样本，p99 需要上百个；十二次只能提供存在性证据（缺失 usage 字段、429、尾部是两秒还是二十秒），不能精确估计分位数
50%待验证把超时压在观测 p95 之下意味着主动放弃约5%的调用以换取循环时长有上界，这个取舍是否可接受取决于任务能否容忍跳过
50%待验证估算器对长diff的过度计数严重到把中等规模prompt推上pinned路径，而最初的上限设得太低；修复方法是读免费路由的tokens_median和p95，把上限设在实际发送量的95分位。
50%待验证p95指把所有观测值排序后位于第95百分位的数值，意味着95%的调用不超过它；相比平均值，p95不会被少数极小值拉低，也不会被极端离群值主导，能更真实地反映绝大多数情况下会发送多大的prompt。
50%待验证TTFT分布呈右偏长尾特征，应报告p95等分位数而非均值，因为均值对离群值极度敏感且人们记住的是最差的交互
50%待验证p95表示所有测量样本中有95%的请求延迟低于该值，反映最差5%用户经历的延迟上界
50%待验证应把p95成本、p95延迟作为不可突破的约束护栏,在此前提下优化平均成本,以防长尾失控
50%待验证p95和p99分位数指标在系统可观测性领域比平均延迟更被推崇，因为它们揭示用户在最差情况下的真实体验
50%