深度學習之神經網絡中的Epoch、Iteration、Batchsize

自己平時在訓練的過程中老是對於這些概念的混淆。就整理如下。 1、batch-size batch-size :即批次的大小,也就是一次訓練選取的樣本的個數。 batch-size的大小對模型的優化和速度有着影響,尤其是GPU的個數不多時,最好不要把數值設置的很大。 在設置的過程中最好使用2的倍數,因爲計算機的內存爲2的指數倍,採用2進制編碼。 batch-size的正確選擇就是爲了在內存效率和內存
相關文章
相關標籤/搜索