3.5 梯度校驗-機器學習筆記-斯坦福吳恩達教授

梯度校驗（Gradient Descent） 通常，直接使用BP算法可能會出現許多 bug，因此，需要使用稱爲**梯度校驗（Gradient Checking）**的手段。我們知道， J ( Θ ) J(Θ) J(Θ) 在 Θ Θ Θ 處的倒數 d d Θ J ( Θ ) \frac d{dΘ}J(Θ) dΘd​J(Θ) 爲該點的斜率，如下圖藍色線段所示： 我們可以在點 Θ Θ Θ 附近的小區間

>>阅读原文<<