機器學習:神經網絡激活函數總結

神經網絡各種激活函數總結 1. 激活函數基本概念 1.1 激活函數的作用 激活函數向神經元中引入了非線性因素,使得神經網絡可以逼近任意非線性函數,能應用到諸多非線性場景中。 1.2 激活函數的飽和性 (1) 飽和:激活函數既滿足左飽和又滿足又飽和。 右飽和:激活函數 f(x) f ( x ) 滿足: limx→+∞=0 lim x → + ∞ = 0 左飽和:激活函數 f(x) f ( x ) 滿
相關文章
相關標籤/搜索