DL-sigmoid激活函數性質與缺陷

綜述 Sigmoid函數是學習DL中activation function的必學經典。 f ( x ) = 1 e − x + 1 f(x) = \frac{1}{e^{-x}+1} f(x)=e−x+11​ 他的圖像 note: this pic is from here. 他的一些好的性質簡單帶過： 可微（這是使用chain rule所必須的） 單調性 對變量的scaling 能力 問題 問題

>>阅读原文<<