cs231n 更好的優化

    這邊開始講到在訓練網絡的過程中，更好的優化，目前人們使用的正則化項減少過擬合，遷移學習，當你的測試數據小於預期時，怎麼把問題轉換成另一種問題。等問題。     在使用隨機梯度下降法的時候，會遇到鞍點，局部最小值的問題。在訓練大網絡中，鞍點的問題更加的普遍。 而在一般實際訓練的過程當中，我們使用的是小批量梯度下降法，所以在實際中訓練的不是實際的梯度，這就相當於在梯度下降過程中加了干擾。 但這

>>阅读原文<<