神經網絡——激活函數的作用

激活函數是神經網絡的一個重要組成部分。如果不用激活函數（即相當於激活函數爲f(x)=x），在這種情況下，網絡的每一層的輸入都是上一層的線性輸出，因此，無論該神經網絡有多少層，最終的輸出都是輸入的線性組合，與沒有隱藏層的效果相當，這種情況就是最原始的感知機。 激活函數是用來加入非線性因素的，解決線性模型所不能解決的問題。 例如，對於一個二分類問題，如下圖： 利用單層的感知機, 用它可以劃出一條線,

>>阅读原文<<