神經網絡及卷積神經網絡的訓練——反向傳播算法

神經網絡的訓練過程，就是經過已有的樣本，求取使代價函數最小化時所對應的參數。代價函數測量的是模型對樣本的預測值與其真實值之間的偏差，最小化的求解通常使用梯度降低法（Gradient Decent）或其餘與梯度有關的方法。其中的步驟包括：web 初始化參數。 求代價函數關於參數的梯度。 根據梯度更新參數的值。 通過迭代之後取得最佳參數，從而完成神經網絡的訓練。 其中最重要的步驟就是求梯度，這能夠經過

>>阅读原文<<