负对数似然
语言模型预训练和评估中的基础损失度量,为模型对正确答案预测概率的负对数,NLL越低表示模型预测越自信准确
核心事实
时间轴 (近 90 天)
负对数似然(NLL)指模型对给定文本中每个 token 分配概率的负对数平均值,数值越低表示模型越认为该文本合理。
Circe 将生成 token 的平均负对数似然转换为有界的似然置信度(LC)分数,有界化处理让该信号在与其他分数融合时更加稳定。
困惑度是 NLL 的指数形式(perplexity = exp(NLL)),可理解为模型在预测下一个 token 时的平均不确定性程度。
负对数似然同时惩罚错误预测和过度自信,对校准尤为敏感。
变异系数(标准差除以均值)是一种无量纲的归一化度量,能消除不同条目之间NLL绝对水平差异的影响。
模型自生成的反馈可能产生误导性的伪洞见,验证器质量会影响反馈有效性,是该方法的开放问题
在高斯输出分布假设下,最小化负对数似然(NLL)与最小化均方误差(MSE)在数学上完全等价
全部知识事实 (7)
模型自生成的反馈可能产生误导性的伪洞见,验证器质量会影响反馈有效性,是该方法的开放问题
75%待验证负对数似然(NLL)指模型对给定文本中每个 token 分配概率的负对数平均值,数值越低表示模型越认为该文本合理。
50%待验证Circe 将生成 token 的平均负对数似然转换为有界的似然置信度(LC)分数,有界化处理让该信号在与其他分数融合时更加稳定。
50%待验证困惑度是 NLL 的指数形式(perplexity = exp(NLL)),可理解为模型在预测下一个 token 时的平均不确定性程度。
50%待验证负对数似然同时惩罚错误预测和过度自信,对校准尤为敏感。
50%待验证变异系数(标准差除以均值)是一种无量纲的归一化度量,能消除不同条目之间NLL绝对水平差异的影响。
50%待验证在高斯输出分布假设下,最小化负对数似然(NLL)与最小化均方误差(MSE)在数学上完全等价
50%