神經網絡的反向傳播公式推導

寫在前面 機器學習算法工程師的面試中常會問到一個很基礎的問題，那就是反向傳播公式的推導，今天看了下吳恩達老師的公開課《神經網絡和深度學習》，將一些推導過程記錄下來。 邏輯迴歸反向傳播的推導 邏輯迴歸是最簡單的神經網絡，先從邏輯迴歸入手，有助於後面的理解。 上圖是一個邏輯迴歸正向傳播的示意圖。具體細節不再描述。 損失函數 L(a,y)=−yloga−(1−y)log(1−a) L ( a , y )

>>阅读原文<<