tensorflow學習筆記——常用的激活函數

1.sigmoid 公式： 圖像： 從圖中可以看到，sigmoid激活函數會將所有輸入都轉到0-1範圍內。如此之外，它的倒數有一個常用到的性質： 即它的倒數可由自身表示。 優點：它輸出映射在0-1內，單調連續，可以用來作分類，並且求導比較容易； 缺點：具有軟飽和性，一旦輸入過大或過小，一階導數就變得接近於0，很容易產生梯度消失的現象。 tesorflow使用：tf.sigmoid(x) 2.tan

>>阅读原文<<