概念reverse-mode autodiff
反向模式自动微分
自动微分的一种实现模式,先在前向传播中构建计算图,再反向遍历应用链式法则计算梯度,是主流深度学习框架默认采用的梯度计算方式
时间轴 (近 90 天)
10月17日
反向模式自动微分的早期工作可追溯到 Linnainmaa(1970),Paul Werbos 在 1982 年将其应用于多层网络。
待验证50%
9月9日
反向模式自动微分能用 O(n) 时间计算标量损失对所有参数的梯度,而前向模式需要 O(n) 次前向传播
待验证50%