反向傳播算法的理解

    BP(Backpropagation Algorithm，反向傳播算法)在神經網絡學習中有着無可替代的作用，關於其優化方法可閱讀該文章《一文看懂各種神經網絡優化算法：從梯度下降到Adam方法》。本文僅立足於反向傳播的實現過程。文中如有理解偏差，請各位指正。     就反向傳播的字面理解是將數據從後(輸出)向前(輸入)傳遞，數據的具體形式是代價函數對其超參數(權重(W)和偏置(b))的偏導數

>>阅读原文<<