【AI數學】神經網絡的反向傳播BackPropagation

BP算法是深度學習中最重要也是最基礎的算法之一,也是Hinton本人的圖靈獎工作之一。更重要的是,BP是深度學習崗位面試必問題之一。本文會以最容易理解的方式來介紹反向傳播,避免大量公式。 1. 前向傳播和反向傳播 前向還是反向區別在於計算順序。我們通常把inference稱爲前向,因爲計算順序是從淺層到深層,一層一層地傳遞。而反向傳播就是從深層到淺層。 先看一個二層感知機網絡,如上圖。每條虛線代表
相關文章
相關標籤/搜索