局部最小值

https://blog.csdn.net/malefactor/article/details/78768210?utm_source=blogxgwz5 對於神經網絡目標函數優化來說，在參數尋優過程中最常用的算法是梯度下降，目前也出現了很多基於SGD基礎上的改進算法，比如帶動量的SGD，Adadelta，Adagrad，Adam，RMSProp等梯度下降改進方法，這些算法大多都是針對基礎更新公

>>阅读原文<<