解析卷積神經網絡學習筆記——魏秀參

第二章 CNN基本部件 1.理解批處理和隨機梯度下降: 訓練模型時隨機選取n個訓練樣本作爲一個batch(批輸入),那麼經過設計好的卷積神經網絡就可以輸出n個預測值,對這n個預測值求其損失函數(注意損失函數絕不是一個樣本一個樣本求的,它是n個樣本的總體誤差,需要除以n的),然後用梯度下降的方法更新參數,這樣的一次過程就叫批處理(mini-batch) 而我們選取樣本的方式是不放回隨機抽樣直至遍歷所
相關文章
相關標籤/搜索