1.14 梯度檢驗應用的注意事項-深度學習第二課《改善深層神經網絡》-Stanford吳恩達教授

梯度檢驗應用的注意事項 (Gradient Checking Implementation Notes) 這節課，分享一些關於如何在神經網絡實施梯度檢驗的實用技巧和注意事項。 首先，不要在訓練中使用梯度檢驗，它只用於調試。我的意思是，計算所有 i i i 值的 d θ a p p r o x [ i ] d\theta_{approx}[i] dθapprox​[i] 是一個非常漫長的計算過程，爲

>>阅读原文<<