深度學習(DL)基本概念

深度學習中的batchsize、epochs、learning rate、momentum、iteration/step幾個術語,這裏整理一下, 1.batchsize:批大小,每次訓練給神經網絡喂入的數據量大小(當然也可以一次將所有樣本丟給神經網絡)。但是要注意,batchsize並不是越大越好。更大的批量會計算更精確的梯度估計,但是回報卻是小於線性的。同樣,極小批量通常難以充分利用多核架構。
相關文章
相關標籤/搜索