Tensorflow 激活函數 activation function

激活函數 activation function 線性模型的侷限性：只通過線性變換，任意層的全連接神經網絡和單層神經網絡的表達能力並沒有任何區別，線性模型能解決的問題是有限的。 激活函數的目的是去線性化，如果將每一個神經元的輸出通過一個非線性函數，那麼整個神經網絡的模型也就不再是線性的了，這個非線性函數就是激活函數。 評價某個激活函數是否有用時,需要考慮的因素有: 1)該函數應是單調的, 這樣輸出

>>阅读原文<<