Batch Size---深度學習---基礎知識

Batch Size定義:一次訓練所選取的樣本數。  Batch Size的大小影響模型的優化程度和速度。同時其直接影響到訓練單元(如GPU)的內存的使用狀況,假如你訓練單元(如GPU)內存不大,該數值最好設置小一點。優化 Batch Size設置合適時的優勢:  一、經過並行化提升內存的利用率。就是儘可能讓你的訓練單元(如GPU)滿載運行,提升訓練速度。 內存的利用率提升了,大矩陣乘法的並行化效
相關文章
相關標籤/搜索