【吳恩達深度學習】【神經網絡和深度學習】 第三章 第七節 我們爲什麼需要非線性激活函數？

一、爲什麼不能用非線性函數 假如我們的神經網絡的所有激活函數都是線性的函數，我們不妨想這麼一個問題 既然兩個線性的函數是可以複合的，所以一個只由線性函數構成的神經網絡的所有函數能不能複合成一個函數呢？ 顯然是可以的，線性函數直接是可以自己複合成一個新的線性函數的，因此，我們如果只採用線性函數，就會發現一個有趣的結論： 一個神經網絡可以退化成一個獨立的神經元 這個結論來源於線性函數的複合。 基於這個

>>阅读原文<<