深度學習:Sigmoid函數與損失函數求導

轉載自: 在神經網絡裏經常使用sigmoid做激活函數,它的導數是怎麼樣求解呢?因爲要使用它的導數來計算梯度下降。 這個過程如下: 1. sigmoid 函數:f(z) = 1 / (1 + exp( − z)) 導數:f(z)' = f(z)(1 − f(z)) 求導過程如下: 關於sigmoid函數在神經網絡中的應用: http://blog.csdn.net/zhishengqianjun/
相關文章
相關標籤/搜索