Batch_Size 的說明

先說結論

Batch_Size 的意思是一次訓練所選取的樣本數數據庫

Batch Size的大小影響模型的優化程度和速度。同時其直接影響到GPU內存的使用狀況,假如你GPU內存不大,該數值最好設置小一點。網絡

———————————————————————————————————————————————————優化

細緻說明

1.使用的緣由spa

正如Batch_Size的定義同樣,咱們使用Batch_Size是爲了從樣本中提取出一小撮來。究其緣由無外乎總樣本太多,一次性放進程序裏,運算的時間成本太大,不如先抽出一小部分試試水。進程

2.使用方法圖片

Batch_Size = 1,就是提取一個樣本內存

3.注意事項音頻

這是個參數,是名詞,不是動詞,它只是說明提取樣本的數目。程序

———————————————————————————————————————————————————方法

常見問題

1.不一樣的Batch Size各自有什麼效果

Batch Size=0,梯度準確,只適用於小樣本數據庫 
Batch Size=1,梯度變來變去,很是不許確,網絡很難收斂。 
Batch Size增大,梯度變準確, 
Batch Size增大,梯度已經很是準確,再增長Batch Size也沒有用

———————————————————————————————————————————————————

應用場景

讀取圖片數據、音頻數據

相關文章
相關標籤/搜索