待验证50% 置信事实精确时间

文献中曾报告unigram-normalized loss与BPB的相关性高达0.989，但修正混杂因素后相关性骤降至0.057。

1

来源数

50%

置信度

长期有效

时效性

2026/11/4

首次发现

来源

Tokenizer三大迷思：BPB指标真的可靠吗？

涉及实体

unigram-normalized lossconcept BPBconcept

相关事实

待验证从同一数据出发，BPB和unigram-normalized loss在每个模型规模下选择了不同的词表。73% 相似待验证一般认为平均KLD在0.1以下时质量损失较小，超过0.5则可能明显退化。68% 相似待验证在固定向量自身相似度实验中，offset从0到1024时原始分数均值始终在±0.38内波动，而绝对值均值仅从3.17下降到3.02，变化幅度约4%。67% 相似待验证研究给出了否定答案：更低的BPB并不意味着更好的模型。67% 相似待验证验证损失从9.48起步，经过约一轮完整语料遍历后降到4.2766% 相似

引用此条事实

Stable URI

https://kongchang.com/claim/1134080

API

curl https://kongchang.com/api/v1/knowledge/claims/1134080

MCP

get_claim(id=1134080)