神經網絡中用到的激活函數

在神經網絡中激活函數層往往是必備的，激活函數一般有如下三種選擇：sigmoid函數、relu函數、tanh函數。 1.sigmoid函數表達式如下：                                    Θ(x)=11+e−x 函數取值範圍(0,1),函數圖像下圖所示: 2.tanh函數的表達式如下： tanh(x)=sinh(x)cosh(x) 其中sinh(x)數學公式爲： 

>>阅读原文<<