循環神經網絡 (Recurrent Neural Network)的訓練

訓練一個神經網絡就是訓練該網絡的各個參數(各個連接的權重)。   訓練的思想大致爲: 1. 用訓練樣本的真實值和預測值的差異建立目標函數。顯然,目標函數值越小越好。當訓練樣本給定之後,目標函數實爲各個參數(各個連接)的函數。 2. 最小化目標函數,得對應於相應訓練樣本的可使目標函數最小的參數。用這些參數來建模去預測別的樣本。   最小化目標函數一般採用梯度下降方法。梯度下降方法的一般思想爲: 1.
相關文章
相關標籤/搜索