概念短程试验
短程预训练试验
一种低成本代理评估策略,通过少量训练步数获得粗略表示并评估下游表现,用于排序候选配置,常用于神经架构搜索和元学习
时间轴 (近 90 天)
11月4日
TAPES 通过短程联合预训练试验评估候选目标集的下游效用,而非使用目标可预测性作为选择标准。
待验证50%
11月4日
短程预训练试验的有效性依赖于一个经验假设:短程训练的相对优劣与完整训练的相对优劣高度相关。
待验证50%
一种低成本代理评估策略,通过少量训练步数获得粗略表示并评估下游表现,用于排序候选配置,常用于神经架构搜索和元学习
TAPES 通过短程联合预训练试验评估候选目标集的下游效用,而非使用目标可预测性作为选择标准。
短程预训练试验的有效性依赖于一个经验假设:短程训练的相对优劣与完整训练的相对优劣高度相关。