前向後向傳播算法

文章內容是我在《深度之眼》學習《DEEP LEARNING》過程中的作業筆記。 在推導過程中使用的簡化版神經網絡結構如圖1所示。 圖1  神經網絡簡化圖 假設X爲N*M矩陣(即 輸入包含N條樣本，每條樣本包含M維特徵） h1與z1的維數爲m1爲m*m1的矩陣，（注：神經網絡中處理bias單元通常有兩種方式，第一種處理方式是bias本身值爲1，但它連接各個神經元的權重不爲1，即---整個神經網絡只有

>>阅读原文<<