BP算法(李宏毅課堂筆記)

BP算法 1. GD算法 2. Forward pass 3. Backward pass 1. GD算法         首先,簡要回憶一下GD梯度下降算法:                          解讀如下:        對於網絡參數有w、b等數值,將這些參數統一歸爲網絡參數θ,將損失函數對這些參數進行求導,通過更新規則 θ i + 1 = θ i − η ▽ L ( θ i )
相關文章
相關標籤/搜索