激活函數sigmoid與softmax和relu及其反向傳播

sigmoid函數（也叫邏輯斯諦函數）： 　引用wiki百科的定義： 　　A logistic function or logistic curve is a common 「S」 shape (sigmoid curve). 　　其實邏輯斯諦函數也就是經常說的sigmoid函數，它的幾何形狀也就是一條sigmoid曲線。 其反向傳播 同樣，我們貼一下wiki百科對softmax函數的定義： so

>>阅读原文<<