深度學習筆記(2)：1.12 梯度的數值逼近 | 1.13 梯度檢驗 | 1.14 梯度檢驗實施小tip

         這三小節實質上是在講如何確保back prop正確實施，即進行back prop時，對參數求導過程是否準確。首先‘1.12 梯度的數值逼近’講通過怎樣的方法，我們可以得到對求導結果一個很好的逼近；‘1.13 梯度檢驗’告訴我們有了1.12中提出的方法，我們可以使用這個方法去檢驗參數求導過程是否準確，即檢驗back prop是否正確實施；‘1.14 梯度檢驗小tip’則是告訴我們在

>>阅读原文<<