2、AI學習筆記|優化算法

              一、mini-batch 在實際項目中，訓練集很龐大，一次性加載不只硬件沒法知足，並且大數據量使得神經網絡進行一次梯度降低就須要很長時間。算法 batch梯度降低：使用整個訓練集訓練模型網絡 mini-batch梯度降低：將龐大的訓練集拆分紅一個個小的訓練集，依次使用小的訓練集進行訓練。大數據 隨機梯度降低：將一個樣本當作一個子訓練集blog mini-batch的合理

>>阅读原文<<