神經網絡優化算法選擇

優化算法 解決優化問題，有不少算法（最多見的就是梯度降低），這些算法也能夠用於優化神經網絡。每一個深度學習庫中，都包含了大量的優化算法，用於優化學習速率，讓網絡用最快的訓練次數達到最優，還能防止過擬合。 keras中就提供了這樣一些優化器[1]：html SGD：隨機梯度降低 SGD+Momentum: 基於動量的SGD（在SGD基礎上作過優化） SGD+Nesterov+Momentum：基於動

>>阅读原文<<