深度學習常見的優化器

模型性能不好，可能存在的問題： （1）模型設計 （2）優化算法的問題 （3）過擬合 機器學習幾乎所有的算法都要利用損失函數來檢驗算法模型的優劣，同時利用損失函數來提升算法模型，這個提升過程叫做優化 （Optimizer）。 優化器定義了改變權重和偏置的方法 優化過程就是優化代價函數： （1）Adagrad、RMSprop、Adam等算法都是建立在偏導數之上的，他們並不關心上式中N的取值，N取1，取

>>阅读原文<<