手寫神經網絡

下面是一個只有一個隱層的神經網絡，本文的所有工作將基於該網絡，同過最簡單的神經網絡去理解前向傳播，計算向量化，激活函數，基於鏈式法則的反向傳播算法。 上圖中單個神經元如下 1 前向傳播計算 1.1 前向傳播表示 爲了方便，我們首先給該網絡的每一個元素用數學符號表示。如下圖 由於每個神經元都有求和與激活兩個步驟，所以上面將每個神經元畫成求和與激活兩個步驟。隱層求和爲 { z 1 [ 1 ] = w

>>阅读原文<<