常見激活函數（sigmoid/logistic/tanh/softmax/ReLU關係解釋）

Sigmoid 神經網絡最多見的激活函數就是sigmoid函數。 sigmoid函數意爲「S型曲線函數」，它經常指的是logistic（對數概率）函數： html y=11+e−x=exex+1 但sigmoid函數還有其餘的函數，例如tanh函數等。 tanhx=ex−e−xex+e−x （更多見 https://en.wikipedia.org/wiki/Sigmoid_function） S

>>阅读原文<<