待验证50% 置信事实精确时间
KLD对分布形状的变化比困惑度更敏感,因此成为量化社区(如llama.cpp的量化讨论)中判断量化是否伤质量的常用基准。
1
来源数
50%
置信度
长期有效
时效性
2026/11/2
首次发现
来源
涉及实体
相关事实
已验证KL 散度用于比较微调后模型与原始模型在相同输入下的输出概率分布差异,数值越大表示偏离越严重,0.0244 的 KLD 意味着微调几乎没有改变模型的整体行为分布71% 相似待验证KLD 是分布层面的平均量,与下游任务准确率并非严格单调对应;一个 KLD 略高的模型可能恰好在某类任务上分数更好。69% 相似待验证KL 散度和 PSI(群体稳定性指标)等统计量常用于度量批量数据的分布偏移,但难以直接套用于 Agent 序列化、带上下文的行为。68% 相似待验证KLD(KL散度)衡量两个概率分布之间的差异,公式为 D_KL(P||Q)=∑_x P(x)log(P(x)/Q(x))。67% 相似待验证KL散度是衡量两个概率分布差异的非对称指标,在强化学习中被用来约束新旧策略的偏离程度(如PPO的trust region)。67% 相似
引用此条事实
Stable URI
https://kongchang.com/claim/1125296API
curl https://kongchang.com/api/v1/knowledge/claims/1125296MCP
get_claim(id=1125296)