深度學習：梯度下降法數學表示式的詳細推導

很多深度學習的書籍以及網上介紹深度學習的相關文章裏面介紹了梯度法求損失函數最優化，但很少會解釋梯度法的數學式是怎麼得出來的，經過一番數學推理和文獻查找（其實Ian Goodfellow等著的《深度學習》也沒有通俗解釋，用了晦澀的語言和符號表示，沒有具體說明，參見其第四章第三節），做此筆記。   梯度 通俗來說，梯度就是表示某一函數在該點處的方向導數沿着該方向取得較大值，即函數在當前位置的導數。很多

>>阅读原文<<