梯度累积把一个大batch拆成若干micro-batch依次前向和反向，累加梯度后统一更新参数，从而在等效batch size不变的前提下降低峰值显存。