機器學習面筆試-神經網絡篇

1.爲何引入非線性激勵函數？ 由於若是不用非線性激勵函數，每一層都是上一層的線性函數，不管神經網絡多少層，輸出都是輸入的線性組合，與只有一個隱藏層效果同樣。至關於多層感知機了。因此引入非線性激勵函數，深層網絡就變得有意義了，能夠逼近任意函數。web 2.經常使用的激勵函數 1）sigmoid：將輸出實值壓縮到0-1之間。 缺點：（輸入很是大或很是小的時候）容易梯度消失；sigmoid函數是非0均值

>>阅读原文<<