《深度學習入門》學習記錄 Part2

這周主要是學習了《深度學習入門》的第四、五章節，瞭解了損失函數、數值微分、梯度、計算圖、誤差反向傳播法和「神經網絡學習」的整個過程。 在計算權重函數的梯度時，切實感受到了數值微分方法與誤差反向傳播法的差距。在使用數值微分算法實現神經網絡學習的時，我電腦的呼呼呼的，等了好久好久都沒計算成功。但是在使用誤差反向傳播法時，不到一分鐘就處理完了。 概念 鞍點（saddle point） 學習高原：函數很復

>>阅读原文<<