lec3-backpropagation

:material-circle-edit-outline: 约 132 个字

反向传播算法

反向传播的核心思想是 从输出反向计算每个节点对输出的梯度，以便更新参数

主要会借助链式法则

每个结点可以存储自己的本地梯度，方便快速运用链式法则进行反向传播

向前传播的计算实际上就是把每一条路径上的梯度累乘

再利用链式法则就可以轻松求出梯度下降法里面调整参数的部分了