Pytorch教程(4)——Batch Size & Learning Rate

兩個問題 深度學習中batch size的大小對訓練過程的影響是什麼樣的? 有些時候不可避免地要用超大batch,比如人臉識別,可能每個batch要有幾萬甚至幾十萬張人臉圖像,訓練過程中超大batch有什麼優缺點,如何儘可能地避免超大batch帶來的負面影響? 兩個問題的回答 batch size的大小影響深度學習訓練過程中的完成每個epoch所需的時間和每次迭代(iteration)之間梯度的平
相關文章
相關標籤/搜索