tensorflow學習筆記——常用的激活函數

1.sigmoid 公式: 圖像: 從圖中可以看到,sigmoid激活函數會將所有輸入都轉到0-1範圍內。如此之外,它的倒數有一個常用到的性質: 即它的倒數可由自身表示。 優點:它輸出映射在0-1內,單調連續,可以用來作分類,並且求導比較容易; 缺點:具有軟飽和性,一旦輸入過大或過小,一階導數就變得接近於0,很容易產生梯度消失的現象。 tesorflow使用:tf.sigmoid(x) 2.tan
相關文章
相關標籤/搜索