【Deep Learning基礎知識】深度學習中關於batch、epoch和iteration的含義 和 batchsize的大小對訓練過程的影響

前言：深度學習中最基本的思想爲梯度下降，反向傳播減小誤差優化參數。 而在使用訓練數據優化參數的時候有兩種方法： 1）Batch gradient descent：每次迭代(完成一次前向和反向運算)會計算訓練數據集中所有的樣本，在深度學習中訓練樣本數量通常達十萬、百萬甚至更多，這樣一次迭代遍歷所有的樣本顯然很慢。 2）Stochastic gradient descent：每次迭代只使用訓練集中的一

>>阅读原文<<