3.對神經網絡訓練中Epoch的理解

 

表明的是迭代的次數,若是過少會欠擬合,反之過多會過擬合網絡

EPOCHS
當一個完整的數據集經過了神經網絡一次而且返回了一次,這個過程稱爲一個 epoch。
 
然而,當一個 epoch 對於計算機而言太龐大的時候,就須要把它分紅多個小塊。
 
爲何要使用多於一個 epoch?
我知道這剛開始聽起來會很奇怪,在神經網絡中傳遞完整的數據集一次是不夠的,並且咱們須要將完整的數據集在一樣的神經網絡中傳遞屢次。可是請記住,咱們使用的是有限的數據集,而且咱們使用一個迭代過程即梯度降低,優化學習過程和圖示。所以僅僅更新權重一次或者說使用一個 epoch 是不夠的。
 
 
隨着 epoch 數量增長,神經網絡中的權重的更新次數也增長,曲線從欠擬合變得過擬合。
 
那麼,幾個 epoch 纔是合適的呢?
不幸的是,這個問題並無正確的答案。對於不一樣的數據集,答案是不同的。可是數據的多樣性會影響合適的 epoch 的數量。好比,只有黑色的貓的數據集,以及有各類顏色的貓的數據集。
相關文章
相關標籤/搜索