BackPropagation in detail

深度學習中的反向傳播過程詳解 綜述 反向傳播過程就是一個複合函數求導的過程,反向傳播算法就是一個幫助我們求導的算法。多層神經網絡的本質就是一個複合函數。 1. 爲什麼叫反向傳播? 這個跟前向傳播對應。在前向傳播中,上一層中的權重是通過輸出,來影響下一層的,因此在求隱藏層中w的導數時,是通過隱藏層的輸出作爲中間的橋樑來進行轉換,這一點恰恰是沿着前向傳播的路返回的。 2. 爲什麼不直接進行求導,而要使
相關文章
相關標籤/搜索