深度學習基礎（七）—— Activation Function

1. Sigmoid 2. Tanh 3. ReLU 4. LReLU、PReLU與RReLU 4.1 LReLU 4.2 PReLU 4.3 RReLU 4.4 ELU 5 總結 6 參考 1. Sigmoid 函數定義： f(x)=11+e−x f ( x ) = 1 1 + e − x 對應的圖像是： 優點： Sigmoid函數的輸出映射在(0,1)之間，單調連續，輸出範圍有限，優化穩定，可

>>阅读原文<<