置信度校准

一个系统可以整体准确率高但完全没校准，也可以校准良好但判别力低；校准与判别力是两个独立维度。

校准意味着模型输出的概率应与现实匹配；神经网络普遍存在过度自信倾向，不应盲目相信模型概率，应使用标注数据验证后再设置阈值。

许多神经网络存在过度自信的校准偏差，即便错误率很高，输出的置信度分数依然接近1

一个准确率略低但置信度校准良好的模型往往比准确率更高却盲目自信的模型更适合投入生产环境

校准后的置信度意味着当系统给出 0.9 的分数时，其正确概率应接近 90%

常用的校准评估指标包括期望校准误差（ECE）和可靠性图（Reliability Diagram）

大模型普遍存在过度自信的问题，需要通过提示词工程和校准策略来校准置信度

校准置信度（calibrated confidence）指模型输出的置信度数值与真实准确率之间的一致性，校准良好的模型声称80%把握时实际准确率也应接近80%

大语言模型存在校准失当（Miscalibration）问题，无论答案对错往往以笃定语气作答

一个校准良好的模型，其输出的0.8分应当在统计意义上真的对应80%的正确率

模型校准指的是模型输出概率与其实际正确率相匹配的程度；一个校准良好的模型，若对某类问题给出的概率是0.8，则这类问题大约有80%确实答对。

许多模型在错误答案上仍表现出高度自信，存在自信度校准（confidence calibration）问题

直接将LLM的置信度用作情绪偏离预警的排序信号存在风险：不同模型间的置信度不可比，甚至同一模型在不同对话语境下的校准也可能漂移。

在分析场景中，智能体可能以同样肯定的语气呈现强证据支持的结论和基于噪声的推测，未校准的置信度尤为危险。

校准准确率是评估智能体在不确定性下决策质量的关键指标，它不仅考察最终答案是否正确，还衡量置信度是否与真实正确概率相匹配。

置信度本身不提升准确率，其价值在于支持按置信度分流；该机制的有效性取决于置信度是否校准，区分度不足时阈值路由会退化为随机分流。

决策模型产品需要额外做校准处理，例如温度缩放、Platt scaling或基于验证集的等渗回归，并在标签体系变化时重新校准。

对于金融风控、医疗分诊等高风险场景，校准质量直接决定模型能否被信任。

LLM自报的置信度存在校准偏差（Calibration Bias）——模型常对错误答案过度自信，生产系统通常需结合检索命中率、工具调用成功率等外部信号组成综合置信度评分。

模型自报的置信度数字与经过校准的概率不是同一类对象：自报数字出自与答案同一次前向传播的 token 采样，没有查阅结果，而校准概率必须来自预测与结果的配对记录（join）。