深度學習模型遇到的問題以及解決的tips(李弘毅機器學習-Tips for deep learning)

在深度學習過程中，我們會遇到很多問題，並不是所有的問題都是overfitting。 比如下面這個很經典的例子： 這個例子中，隨着迭代次數的增加，50-layers的網絡在訓練集上本身就比20-layers的網絡表現差。而在測試集上也表現差，這類問題我們不能只看測試集的結果就說是一個overfitting的例子。還要看訓練集。因此，在深度學習的過程中我們會遇到很多問題，不同的問題有不同的解決辦法。

>>阅读原文<<