零样本泛化

研究表明，在多个由自然语言指令描述的任务上微调，可以明显改善模型在未见任务上的零样本表现；但效果与模型规模、数据组成有关，某些论文指出指令微调对小模型可能有害。

FLAN、T0等工作系统验证了在大量自然语言指令任务上微调后，模型在未见任务上的零样本表现显著提升；指令数据的任务多样性比单一任务的样本量更重要。

零样本泛化指模型在未经过任何目标数据集训练或微调的情况下，直接迁移到新数据集上仍能保持可用性能。

零样本迁移仍可能受限于目标数据集之间在场景类型、标注密度和运动模式上的差异，实际部署时往往还需少量适配。