常見激活函數的用法

常見激活函數的用法 1.爲什麼要使用激活函數 如果不用激勵函數，每一層輸出都是上層輸入的線性函數，無論神經網絡有多少層，輸出都是輸入的線性組合。 如果使用的話，激活函數給神經元引入了非線性因素，使得神經網絡可以任意逼近任何非線性函數，這樣神經網絡就可以應用到衆多的非線性模型中。 2.常用的激活函數 2.1 Sigmoid函數 sigmoid函數也叫 Logistic 函數，用於隱層神經元輸出，取值

>>阅读原文<<