初學神經網絡——激活函數

1.什麼是激活函數     激活函數就是在神經元中,輸入的input經過加權,求和後被應用於一個函數,這個函數就是激活函數:Activation Function,如下圖所示: 2.爲什麼使用激活函數     如果不使用激活函數,我們的每一層輸出只是承接了上一層輸入函數的線性變換,無論神經網絡有多少層,輸出都是輸入的線性組合。如果使用的話,激活函數給神經元引入了非線性的因素,使得神經網絡可以逼近任
相關文章
相關標籤/搜索