神經網絡常用的三大激活函數sigmoid函數、tanh函數、relu函數對比講解

在我們學習神經網絡的時候經常要用到激活函數，但是我們對於爲什麼要使用這一個，它們之間的區別和優缺點各是什麼不太瞭解。下面，我們來詳細說一說這三個激活函數。 - sigmoid函數 sigmoid函數也叫Logistic函數，用於隱層神經元輸出，取值範圍爲(0,1)，它可以將一個實數映射到(0,1)的區間，可以用來做二分類。在特徵相差比較複雜或是相差不是特別大時效果比較好。 其函數表達式是： 其圖像

>>阅读原文<<