#BatchNorm

BatchNorm为何有效？十年后仍未解的核心谜题

Reddit热议：BatchNorm因使用不便而失宠，但其有效性机制至今未有定论。本文梳理内部协变量偏移、优化地形平滑、正则化等主流解释及其裂缝，分析BatchNorm在工程上被LayerNorm等替代的原因，以及理论空白带来的实际代价。