常見激活函數（sigmoid/logistic/tanh/softmax/ReLU關係解釋）

Sigmoid 神經網絡最常見的激活函數就是sigmoid函數。 sigmoid函數意爲「S型曲線函數」，它常常指的是logistic（對數機率）函數： y=11+e−x=exex+1 但sigmoid函數還有其他的函數，例如tanh函數等。 tanhx=ex−e−xex+e−x （更多見 https://en.wikipedia.org/wiki/Sigmoid_function） Softma

>>阅读原文<<