cs231n筆記(5)--傳統神經網絡,激活函數

一.神經元    爲了描述神經網絡,我們先從神經元講起,這個神經網絡僅由一個「神經元」構成,以下即是這個「神經元」的圖示: 具體過程是將Xn加權輸入,再求和然後輸入到「圓圈」中,圓圈實際上是激活函數,然後再輸出,便完成了神經網絡中一個神經元的計算過程。 二.激活函數 1.激活函數的作用是將神經網絡裏的線性變化轉換成非線性變換。之前可以看出無論神經網絡設計多麼複雜,層數再多加權變換也是線性變換,此時
相關文章
相關標籤/搜索