【神經網絡】激活函數

每個神經元模型包含一個input，一個output和一個權值以及一個處理單元。神經元輸入的信號流即xi被認爲是單向的，神經元輸出信號是由激活函數f=func(z)處理後的。 1.1基礎概念 1.1.1常見的激活函數h： 輸出層:等值函數,softmax,sigmoid 輸入層:tanh,relu,sigmoid 1.1.2以下是激活函數在運用中所需要得性質： 1.1.2.1飽和 當一個激活函數h(

>>阅读原文<<