吳恩達《深度學習工程師》Part2.Week2 優化算法

2.1 Mini-batch梯度下降法 機器學習的應用是高度依賴經驗的過程，伴隨着大量的迭代過程，需要訓練大量的模型才能找到最合適那個。Mini-batch梯度下降法是一種有效的能夠提升計算效率的優化算法。 假如你的模型有5,000,000個樣本，如果直接對整個樣本集（batch）進行訓練的話，過程將會非常緩慢。因此，可以將大樣本劃分爲許多小樣本，分別對每個小樣本進行訓練。例如可以劃分出5000個

>>阅读原文<<