訓練神經網絡時如何確定batch size?

前言 當我們要訓練一個已經寫好的神經網絡時,我們就要直面諸多的超參數了。這些超參數一旦選不好,那麼很有可能讓神經網絡跑的還不如感知機。因此在面對神經網絡這種容量很大的model前,是很有必要深刻的理解一下各個超參數的意義及其對model的影響的。 回顧 簡單回顧一下神經網絡的一次迭代過程: 即,首先選擇n個樣本組成一個batch,然後將batch丟進神經網絡,得到輸出結果。再將輸出結果與樣本lab
相關文章
相關標籤/搜索