[控场AI]
基准Expected Calibration Error / 期望校准误差

ECE

机器学习中用于评估模型置信度校准程度的定量指标,计算各置信度区间内预测置信度与实际准确率之差的加权平均值,数值越低表示校准越好

核心事实

时间轴 (近 90 天)

10月26日

在IDP场景中,ECE/MCE比单纯的准确率更能揭示模型“自信地犯错”的风险,团队可据此设置置信度阈值,将低置信度结果转人工复核。

待验证50%
10月20日

温度缩放校准后,ECE降至0.055。

待验证50%
10月20日

初始模型的期望校准误差(ECE)为0.117。

待验证50%
10月19日

模型不确定性表达能力的常用衡量指标包括校准曲线(calibration curve)和ECE(Expected Calibration Error)。

待验证50%
10月19日

校准方面,Jev独立测试的ECE在0.02–0.35之间随任务波动;Laya在温度拟合前ECE为0.466(过度自信),拟合后降至0.081;Drex未公布校准数据

待验证50%
10月18日

在300段由Qwen3-32B标注的练习考卷上,微调v3的Laya相比零样本版将11个问题的判断macro-F1从0.33提升到0.57,校准误差从0.15降至0.07,危险等级MAE从2.78降至1.56。

待验证50%
10月16日

校准与判别力是两个独立指标:判别力衡量模型把正例排在负例之前的能力(如 ROC-AUC),校准衡量模型输出概率与真实频率是否吻合;常用校准度量包括期望校准误差(ECE)与可靠性图,修正手段有 Platt 缩放、等渗回归与温度缩放。

待验证50%
10月14日

模型校准指的是模型输出概率与其实际正确率相匹配的程度;一个校准良好的模型,若对某类问题给出的概率是0.8,则这类问题大约有80%确实答对。

部分验证75%
10月13日

Largha-150M-v1 出货的置信度列 ECE 为 0.2519,内置重新校准列(温度缩放)将其降到 0.0168。

待验证50%
10月13日

基于置信度阈值 τ 的升级门必须先用温度缩放重新校准,否则阈值失效,因为出货置信度列的 ECE 为 0.2519。

待验证50%

还有 9 条时间轴事件

全部知识事实 (20)

已验证

期望校准误差(ECE)通过将预测样本按置信度分桶,计算每桶内预测置信度与实际准确率之差的加权平均值,理想情况下趋近于0

75%
部分验证

模型校准指的是模型输出概率与其实际正确率相匹配的程度;一个校准良好的模型,若对某类问题给出的概率是0.8,则这类问题大约有80%确实答对。

75%
待验证

校准是指模型给出的置信度与实际频率相符的程度,常通过可靠性图和期望校准误差(ECE)来量化

60%
待验证

在IDP场景中,ECE/MCE比单纯的准确率更能揭示模型“自信地犯错”的风险,团队可据此设置置信度阈值,将低置信度结果转人工复核。

50%
待验证

温度缩放校准后,ECE降至0.055。

50%
待验证

初始模型的期望校准误差(ECE)为0.117。

50%
待验证

模型不确定性表达能力的常用衡量指标包括校准曲线(calibration curve)和ECE(Expected Calibration Error)。

50%
待验证

校准方面,Jev独立测试的ECE在0.02–0.35之间随任务波动;Laya在温度拟合前ECE为0.466(过度自信),拟合后降至0.081;Drex未公布校准数据

50%
待验证

在300段由Qwen3-32B标注的练习考卷上,微调v3的Laya相比零样本版将11个问题的判断macro-F1从0.33提升到0.57,校准误差从0.15降至0.07,危险等级MAE从2.78降至1.56。

50%
待验证

校准与判别力是两个独立指标:判别力衡量模型把正例排在负例之前的能力(如 ROC-AUC),校准衡量模型输出概率与真实频率是否吻合;常用校准度量包括期望校准误差(ECE)与可靠性图,修正手段有 Platt 缩放、等渗回归与温度缩放。

50%
待验证

Largha-150M-v1 出货的置信度列 ECE 为 0.2519,内置重新校准列(温度缩放)将其降到 0.0168。

50%
待验证

基于置信度阈值 τ 的升级门必须先用温度缩放重新校准,否则阈值失效,因为出货置信度列的 ECE 为 0.2519。

50%
待验证

ECE(Expected Calibration Error)衡量模型置信度与真实准确率之间的一致性,ECE越低说明概率输出越可信

50%
待验证

点估计置信度在分布偏移下会失效,而MC Dropout等贝叶斯式不确定性度量能真正识别信号失效

50%
待验证

八对事件中有七对的期望校准误差(ECE)上升,受影响场景中有12%-51%的区域被模型以接近零精度自信地错标

50%
待验证

在包含 333 篇文章、1,218 条提示的测试集上,Fiorillo v0.5 的期望校准误差(ECE)为 0.0168,远低于预设上限 0.05

50%
待验证

RLCD 在 Brier 分数之外叠加了按箱(per-bin)计算的校准惩罚项,类似 ECE 的思路,在过度自信区间降低奖励、信心不足区间提高奖励

50%
待验证

作者发现只用 batch 范围内的全局 -λ·ECE 惩罚几乎不起作用,因为它会被 PPO 或 GRPO 的 baseline 直接吸收抵消

50%
待验证

校准奖励存在一个未验证的风险:可能只是把所有输出的置信度压平到中间值,在 ECE 指标上表现好却丧失判别信息

50%
待验证

置信度校准通常通过可靠性图和期望校准误差(ECE)来度量

50%

来源文章