深度學習（DL）-- DNN損失函數和激活函數的選擇詳解

DNN損失函數和激活函數的選擇 現對DNN損失函數和激活函數的搭配與選擇進行梳理： （1）均方差損失函數+Sigmoid激活函數      首先回顧下Sigmoid激活函數的表達式爲：          σ(z)的函數圖像如下：          從圖上可以看出，對於Sigmoid，當z的取值越來越大後，函數曲線變得越來越平緩，意味着此時的導數σ′(z)也越來越小。同樣的，當z的取值越來越小時，也

>>阅读原文<<