ECE
机器学习中用于评估模型置信度校准程度的定量指标,计算各置信度区间内预测置信度与实际准确率之差的加权平均值,数值越低表示校准越好
核心事实
时间轴 (近 90 天)
在IDP场景中,ECE/MCE比单纯的准确率更能揭示模型“自信地犯错”的风险,团队可据此设置置信度阈值,将低置信度结果转人工复核。
温度缩放校准后,ECE降至0.055。
初始模型的期望校准误差(ECE)为0.117。
模型不确定性表达能力的常用衡量指标包括校准曲线(calibration curve)和ECE(Expected Calibration Error)。
校准方面,Jev独立测试的ECE在0.02–0.35之间随任务波动;Laya在温度拟合前ECE为0.466(过度自信),拟合后降至0.081;Drex未公布校准数据
在300段由Qwen3-32B标注的练习考卷上,微调v3的Laya相比零样本版将11个问题的判断macro-F1从0.33提升到0.57,校准误差从0.15降至0.07,危险等级MAE从2.78降至1.56。
校准与判别力是两个独立指标:判别力衡量模型把正例排在负例之前的能力(如 ROC-AUC),校准衡量模型输出概率与真实频率是否吻合;常用校准度量包括期望校准误差(ECE)与可靠性图,修正手段有 Platt 缩放、等渗回归与温度缩放。
模型校准指的是模型输出概率与其实际正确率相匹配的程度;一个校准良好的模型,若对某类问题给出的概率是0.8,则这类问题大约有80%确实答对。
Largha-150M-v1 出货的置信度列 ECE 为 0.2519,内置重新校准列(温度缩放)将其降到 0.0168。
基于置信度阈值 τ 的升级门必须先用温度缩放重新校准,否则阈值失效,因为出货置信度列的 ECE 为 0.2519。
还有 9 条时间轴事件
全部知识事实 (20)
期望校准误差(ECE)通过将预测样本按置信度分桶,计算每桶内预测置信度与实际准确率之差的加权平均值,理想情况下趋近于0
75%部分验证模型校准指的是模型输出概率与其实际正确率相匹配的程度;一个校准良好的模型,若对某类问题给出的概率是0.8,则这类问题大约有80%确实答对。
75%待验证校准是指模型给出的置信度与实际频率相符的程度,常通过可靠性图和期望校准误差(ECE)来量化
60%待验证在IDP场景中,ECE/MCE比单纯的准确率更能揭示模型“自信地犯错”的风险,团队可据此设置置信度阈值,将低置信度结果转人工复核。
50%待验证温度缩放校准后,ECE降至0.055。
50%待验证初始模型的期望校准误差(ECE)为0.117。
50%待验证模型不确定性表达能力的常用衡量指标包括校准曲线(calibration curve)和ECE(Expected Calibration Error)。
50%待验证校准方面,Jev独立测试的ECE在0.02–0.35之间随任务波动;Laya在温度拟合前ECE为0.466(过度自信),拟合后降至0.081;Drex未公布校准数据
50%待验证在300段由Qwen3-32B标注的练习考卷上,微调v3的Laya相比零样本版将11个问题的判断macro-F1从0.33提升到0.57,校准误差从0.15降至0.07,危险等级MAE从2.78降至1.56。
50%待验证校准与判别力是两个独立指标:判别力衡量模型把正例排在负例之前的能力(如 ROC-AUC),校准衡量模型输出概率与真实频率是否吻合;常用校准度量包括期望校准误差(ECE)与可靠性图,修正手段有 Platt 缩放、等渗回归与温度缩放。
50%待验证Largha-150M-v1 出货的置信度列 ECE 为 0.2519,内置重新校准列(温度缩放)将其降到 0.0168。
50%待验证基于置信度阈值 τ 的升级门必须先用温度缩放重新校准,否则阈值失效,因为出货置信度列的 ECE 为 0.2519。
50%待验证ECE(Expected Calibration Error)衡量模型置信度与真实准确率之间的一致性,ECE越低说明概率输出越可信
50%待验证点估计置信度在分布偏移下会失效,而MC Dropout等贝叶斯式不确定性度量能真正识别信号失效
50%待验证八对事件中有七对的期望校准误差(ECE)上升,受影响场景中有12%-51%的区域被模型以接近零精度自信地错标
50%待验证在包含 333 篇文章、1,218 条提示的测试集上,Fiorillo v0.5 的期望校准误差(ECE)为 0.0168,远低于预设上限 0.05
50%待验证RLCD 在 Brier 分数之外叠加了按箱(per-bin)计算的校准惩罚项,类似 ECE 的思路,在过度自信区间降低奖励、信心不足区间提高奖励
50%待验证作者发现只用 batch 范围内的全局 -λ·ECE 惩罚几乎不起作用,因为它会被 PPO 或 GRPO 的 baseline 直接吸收抵消
50%待验证校准奖励存在一个未验证的风险:可能只是把所有输出的置信度压平到中间值,在 ECE 指标上表现好却丧失判别信息
50%待验证置信度校准通常通过可靠性图和期望校准误差(ECE)来度量
50%