深度學習筆記(2)：2.1|2.2 mini-batch梯度下降法及其理解

2.1   mini-batch梯度下降法 第二章我們開始學習優化算法，以便於更快地訓練神經網絡。首先介紹mini-batch梯度下降法，如下圖所示： 相比於mini-batch梯度下降法，我們大家更熟悉的應該是batch梯度下降法，即梯度下降法。那batch梯度下降法和mini-batch梯度下降法有什麼區別嗎？其實他倆的區別就存在於名字中，一個是batch，即進行梯度下降訓練時，使用全部的訓練

>>阅读原文<<