神經網絡訓練時loss不降低的問題

        當咱們訓練一個神經網絡模型的時候，咱們常常會遇到這樣的一個頭疼的問題，那就是，神經網絡模型的loss值不降低，以至咱們沒法訓練，或者沒法獲得一個效果較好的模型。致使訓練時loss不降低的緣由有不少，並且，更廣泛的來講，loss不降低通常分爲三種，即：訓練集上loss不降低，驗證集上loss不降低，和測試集上loss不降低。這裏，首先默認各位都能理解過擬合和欠擬合的概念，若是有不清楚

>>阅读原文<<