概念重复惩罚 / repetition penalty
Repetition Penalty
一种LLM解码参数,通过对已生成token的概率施加惩罚来抑制模型重复使用相同短语的倾向,减少输出中的冗余和套话
时间轴 (近 90 天)
8月25日
高temperature加上缺失的repetition penalty容易导致模型陷入重复循环或生成无意义内容
待验证60%
一种LLM解码参数,通过对已生成token的概率施加惩罚来抑制模型重复使用相同短语的倾向,减少输出中的冗余和套话
高temperature加上缺失的repetition penalty容易导致模型陷入重复循环或生成无意义内容