【深度學習】**函數

1、Sigmoid和tanh**函數 1.1 Sigmoid**函數: 公式                函數圖像                優缺點              優點:值域爲(0,1)。在隱藏層中可壓縮數據,可以限定網絡的輸出範圍。              缺點:由於|x| >= 6 時,圖像平行於x軸,梯度接近於0,在反向傳播時會導致梯度消失的問題。   1.2 tanh*
相關文章
相關標籤/搜索