batch、batch_size、epoch、iteration簡介

batch_size、epoch、iteration是深度學習中常見的幾個超參數: (1)batchsize:每批數據量的大小。DL通常用SGD的優化算法進行訓練,也就是一次(1 個iteration)一起訓練batchsize個樣本,計算它們的平均損失函數值,來更新參數。 (2)iteration:1個iteration即迭代一次,也就是用batchsize個樣本訓練一次。 (3)epoch:1
相關文章
相關標籤/搜索