梯度下降法推導

** 梯度下降法公式推導 ** 梯度下降法簡單的來說就是一種尋找最小值的點的方法，是機器學習和深度學習中常用的優化器，具體又可分爲批量梯度下降（BGD）、隨機梯度下降（SGD）和小批量梯度下降（MBGD），本文不對這些問題做討論只是從數學角度來推導神經網絡中的數學武器：梯度下降算法，本文是在學習涌井良幸先生的」深度學習的數學」一書後的筆記，僅用作個人學習和複習，由於筆者也是初學，所以難免會有各種錯

>>阅读原文<<