[控场AI]
概念reverse-mode autodiff

反向模式自动微分

自动微分的一种实现模式,先在前向传播中构建计算图,再反向遍历应用链式法则计算梯度,是主流深度学习框架默认采用的梯度计算方式

时间轴 (近 90 天)

10月17日

反向模式自动微分的早期工作可追溯到 Linnainmaa(1970),Paul Werbos 在 1982 年将其应用于多层网络。

待验证50%
9月9日

反向模式自动微分能用 O(n) 时间计算标量损失对所有参数的梯度,而前向模式需要 O(n) 次前向传播

待验证50%

全部知识事实 (2)

来源文章