BP神經網絡數學推導

一. 前情提要 神經網絡一種求解W權值的算法，分爲正向傳播(FP)求損失，反向傳播(BP)回傳誤差，根據誤差值求解權值W梯度更新其權重，反覆迭代，直到找到W最優解(不考慮局部最優)。 本次使用單層神經網絡進行推導，隱藏層與輸出層的激活函數使用Sigmoid，損失使用均方差MSE，使用梯度下降優化損失函數並求解權值W。 單層神經網絡結構如下：其中H(x)爲激活函數Sigmoid,S(x,w)爲求和函

>>阅读原文<<