反向傳播算法幾個重要公式的詳細推導

斯坦福大學《Machine Learning》第五週學習過程中，對反向傳播算法的幾個公式看得雲裏霧裏的，這裏做一個詳細的推導和總結 公式一： 公式二： 公式三： 首先已知，這個是我們定義的，不用推導，但是爲什麼要這樣定義呢？ 我們給神經元的加權輸入添加一點改變，這就導致了神經元的輸出變成了，而不是之前的。這個改變在後續的網絡層中傳播，最終使全部代價改變了。因此，可以用來衡量神經元裏的錯誤量.  

>>阅读原文<<