基准
unigram-normalized loss
一种据称分词器无关的损失评估指标,通过一元语言模型归一化模型损失,但研究发现其与BPB的高相关性源于混杂因素而非指标独立性。
时间轴 (近 90 天)
11月4日
unigram-normalized loss并非真正分词器无关。
待验证50%
11月4日
文献中曾报告unigram-normalized loss与BPB的相关性高达0.989,但修正混杂因素后相关性骤降至0.057。
待验证50%
11月4日
从同一数据出发,BPB和unigram-normalized loss在每个模型规模下选择了不同的词表。
待验证50%