激活函數(Sigmoid, tanh, Relu)

重新看了一下,發現寫的時候思緒亂了也沒有檢查。現在重新更改,特別是輸出不以零爲中心(non-zero center)的問題。 按照進程這章總結的是激活函數(Activation Function)。其實這節CS231n講的就很細了,但是!!!我感覺困惑還是有的。我沿着它的步驟慢慢來講。 Sigmoid 來自CS231n Sigmoid的函數和導數爲: σ(x)=11+e−xσ(x)′=σ(x)⋅(
相關文章
相關標籤/搜索