神經網絡中的各種激活函數

一、激活函數簡介 1.激活函數的作用 如下圖，在神經元中，輸入的 inputs 通過加權，求和後，還被作用了一個函數，這個函數就是激活函數 Activation Function。不一定是step function，可以是其他形式的非線性函數。 使用激活函數的目的是給神經元引入非線性因素，從而使神經網絡能夠解決線性不可分的問題，比如最簡單的異或。Hornik證明，只需一個包含足夠多的神經元的隱層，

>>阅读原文<<