神經網絡之梯度下降法（5）

反向傳播算法是多層神經網絡的訓練中舉足輕重的算法，本文着重講解方向傳播算法的原理和推導過程。因此對於一些基本的神經網絡的知識，本文不做介紹。在理解反向傳播算法前，先要理解神經網絡中的前饋神經網絡算法。 前饋神經網絡 如下圖，是一個多層神經網絡的簡單示意圖：    給定一個前饋神經網絡，我們用下面的記號來描述這個網絡：  ：表示神經網絡的層數；  ：表示第層神經元的個數；  ：表示層神經元的激活函數

>>阅读原文<<