神經網絡中的難點及解決方案

1 神經網絡的難點 使用層數較深的神經網絡會遇到許多困難，好比：容易過擬合、參數難以調試、梯度瀰漫等，針對這些問題有不少trick解決。 2 過擬合 過擬合是機器學習中常常遇到的問題，它是指模型預測準確率在訓練集上升高，可是在測試集上反而降低了，這意味着泛化性很差，模型只是記憶了當前數據的特徵，不具有推廣能力。 Hinton教授團隊提出了一個思路簡單但很是有效的方法：Dropout。其思路爲：在訓

>>阅读原文<<