常見激活函數及其求導相關知識

文章目錄 Sigmoid函數 Sigmoid函數介紹 Sigmoid函數求導 tanh 函數 tanh 函數介紹 tanh 函數求導 Relu函數 Relu函數介紹 Relu函數求導 Softmax函數 Softmax函數介紹 Softmax函數求導 激活函數作用 激活函數的選擇 均值不爲零問題 Sigmoid函數 Sigmoid函數介紹 Sigmoid 是常用的非線性的激活函數，公式如下： σ

>>阅读原文<<