batch size淺談

Batch Size的概念:每個Batch(批次)的大小。 例如所有訓練集有1000個樣本,每把1000個Sample跑完就是一個epoch。那麼在一個epoch中,同時取多少個sample進行訓練,就是batch size。 當今神經網絡的訓練中,所需要的訓練集是非常龐大的,因此我們沒辦法一次性把所有訓練集放進內存或顯存中,統一訓練。 在同時訓練的數量差別上,分三種類型: batch size=
相關文章
相關標籤/搜索