研究者重新审视了五个在先前的预训练和微调中报告正交性改进的方法，发现所报告的增益均可归因于数值精度、训练时长、优化器实现或逐行范数控制，而非正交性本身。