改善深層神經網絡：第二週優化算法

文章目錄 小批量梯度下降 批量梯度下降 隨機梯度下降 小批量梯度下降 理解小批量梯度下降 指數加權平均 指數加權平均修正偏差 Adagrad RMSProp 動量梯度下降法 小批量梯度下降 一共500 000個數據，每批數據1000個，需要5000批， 小批量梯度下降過程 ** 函數假設 ** 批量梯度下降 （1）函數求導 （2）theta更新公式 可以看到每次更新都需要用到全部訓練數據，計算量很

>>阅读原文<<