CNN學習筆記

1. 激活函數 用來限制神經元輸出振幅。由於通過激活函數將輸出信號壓制（限制）到允許範圍之內的一定值，故而激活函數也被稱之爲壓制函數。 爲什麼引入非線性激勵函數？ 如果不用激勵函數（其實相當於激勵函數是f(x) = x），在這種情況下你每一層輸出都是上層輸入的線性函數，很容易驗證，無論你神經網絡有多少層，輸出都是輸入的線性組合，與沒有隱藏層效果相當，這種情況就是最原始的感知機（Perceptron

>>阅读原文<<