深層神經網絡與淺層神經網絡的區別

熟悉神經網絡的可能知道，Hornik在1989年，就證明了一個定理： 只需一個包含足夠多神經元的隱層，多層前饋神經網絡就能以任意精度逼近任意複雜的連續函數 那大家可能就會有疑問：既然一個隱層就夠了，我們爲什麼還需要多層神經網絡呢？ 我們可以從這個定理中找到可能思考方式： （1）足夠多神經元，你在實踐中能保證麼？ （2）如果你要擬合的模型並不是連續函數，單個隱層夠嗎？ 顯然，這兩個問題的回答都是否定

>>阅读原文<<