常用激活函數總結

神經網絡與激活函數 神經網絡從數學上來說，就是用來擬合一個函數。把數據扔進去，得到一個預測結果，以此來解決分類和迴歸等問題。但是針對不同的問題，需要擬合不同的函數，包括線性函數和非線性函數。神經網絡中常常會見到各種激活函數，當需要擬合非線性函數時就需要激活函數登場了。 對於每個神經元來說，都是先進行線性變換，再將線性變換的結果通過激活函數來進行激活。注意，這裏的有效激活函數必須是非線性函數。如果採

>>阅读原文<<