深度學習-神經網絡激活函數

使用一個神經網絡時，需要決定使用哪種激活函數用隱藏層上，哪種用在輸出節點上。之前邏輯迴歸輸出節點使用的激活函數是sigmoid激活函數，圖像如下， 但是，有時其他的激活函數效果會更好。tanh函數或者雙曲正切函數是總體上都優於sigmoid激活函數。 如圖， y = t a n ( x ) = e x − e − x e x + e − x y=tan(x)=\frac{e^x-e^{-x}}{e

>>阅读原文<<