BackPropagation(BP, 誤差反向傳播)的一些理解

在現代神經網絡中, 使用最多的算法當是反向傳播(BP). 雖然BP有着收斂慢, 容易陷入局部最小等缺陷, 但其易用性, 準確度卻是其他算法無可比擬的. 在本文中, 爲連接前一層和後一層的權值. 在MLP中, 對於輸出層神經元, 它的輸入按下式進行計算(忽略偏置): 可以看到它的輸入等於前一層所有神經元的輸出和對應連接的加權和, 如上圖 而的輸出按下式計算: . 這就是一個非線性變換sigmoid,

>>阅读原文<<