吳恩達deeplearning.ai《改善深層神經網絡：超參數調試、正則化以及優化》-優化算法（二）

mini-batch梯度下降 在大數據等數據量大的時候，使用深度學習會導致很長的計算時間。故我們引用了一些優化算法，提高算法運行效率。 mini-batch梯度下降將數據集分爲t個子集。每一個子集分別進行梯度下降。 理解mini-batch梯度下降 batch梯度下降的圖像如圖左圖所示，mini-batch梯度下降的圖像如圖右圖所示 可見mini-batch梯度下降的曲線並非光滑下降的。因爲不同的

>>阅读原文<<