概念Logit Perturb-Select-Vote
Logit PSV
PSV框架的一种轻量实现,保持模型完全冻结仅在输出logits上添加随机偏置,通过多样性、选择和投票获得集成效果
时间轴 (近 90 天)
10月30日
Logit PSV 在一个完全冻结的模型上实现了全权重扰动集成的好处,为语言和视觉任务提供了一个简单、免训练的替代方案。
待验证50%
PSV框架的一种轻量实现,保持模型完全冻结仅在输出logits上添加随机偏置,通过多样性、选择和投票获得集成效果
Logit PSV 在一个完全冻结的模型上实现了全权重扰动集成的好处,为语言和视觉任务提供了一个简单、免训练的替代方案。