【TensorFlow】激活函數（Activation Functions）原理解析（十二）

神經網絡結構的輸出爲所有輸入的加權和，這導致整個神經網絡是一個線性模型。如果將每一個神經元的輸出通過一個非線性函數，那麼整個神經網絡的模型也就不再是線性的了，使得神經網絡可以更好地解決較爲複雜的問題。這個非線性函數也就是激活函數。 神經網絡中激活函數的主要作用是提供網絡的非線性建模能力，如不特別說明，激活函數一般而言是非線性函數。假設一個示例神經網絡中僅包含線性卷積和全連接運算，那麼該網絡僅能夠表

>>阅读原文<<