反向傳播(BP)算法

著做權歸做者全部。
商業轉載請聯繫做者得到受權,非商業轉載請註明出處。
做者:劉皮皮
連接:https://www.zhihu.com/question/24827633/answer/29120394
來源:知乎

類比來講相似於
幾我的站成一排
第一我的看一幅畫(輸入數據),描述給第二我的(隱層)……依此類推,到最後一我的(輸出)的時候,畫出來的畫確定不能看了(偏差較大)。
反向傳播就是,把畫拿給最後一我的看(求取偏差),而後最後一我的就會告訴前面的人下次描述時須要注意哪裏(權值修正)。
不知明白了沒有,若是須要理論推導(其實就是鏈式法則+梯度降低法),能夠參考1986年的bp算法的論文。(20141202, 補上論文題目: Learning representations by back-propagating errors, David E. Rumelhart, Geoffrey E. Hinton & Ronald J. Williams, 1986.)
 
http://hahack.com/reading/ann2/
相關文章
相關標籤/搜索