[控场AI]
基准

unigram-normalized loss

一种据称分词器无关的损失评估指标,通过一元语言模型归一化模型损失,但研究发现其与BPB的高相关性源于混杂因素而非指标独立性。

时间轴 (近 90 天)

11月4日

unigram-normalized loss并非真正分词器无关。

待验证50%
11月4日

文献中曾报告unigram-normalized loss与BPB的相关性高达0.989,但修正混杂因素后相关性骤降至0.057。

待验证50%
11月4日

从同一数据出发,BPB和unigram-normalized loss在每个模型规模下选择了不同的词表。

待验证50%

全部知识事实 (3)

来源文章