DeepLearing學習筆記-改善深層神經網絡(第一週做業-3-梯度校驗)

1-背景： 在神經網絡計算過程當中，對後向傳播的梯度進行校驗，確保其計算無誤。至於，前向傳播，因爲相對簡單，因此，通常不會出錯，在前向傳播的基礎上利用計算出來的代價 J 咱們能夠進行後向梯度的校驗。python 公式原理以下： web ∂J∂θ=limε→0J(θ+ε)−J(θ−ε)2ε(1) 在前向傳播的基礎上，咱們能夠獲取到 J ，也就能夠上公式1的計算，將計算的結果值和反向傳播的梯度值按照必

>>阅读原文<<