深度學習-前向傳播和反向傳播

在求出前向傳播和反向傳播前要先確定參數和輸入輸出符號的表達形式 最普通的DNN就可以看做是一個多層感知機MLP，感知機的輸出其實就是對輸入的加權求和：，再經過一個非線性激活函數 首先來定義權值矩陣W，按照下圖規則，表示的是第3層第2個神經元和第2層第4個神經元之間連線（連線就代表權重，可以看成是的省略寫法）。那麼爲什麼不寫成呢，形式上是允許的，但是如果這樣寫的話，第3層神經元的輸入就要通過來計算，

>>阅读原文<<