各類優化算法及其優缺點？

1）梯度降低：每次使用所有數據集進行訓練算法 優勢：獲得的是最優解spa 缺點：運行速度慢，內存可能不夠內存 2）隨機梯度降低SGM方法 在隨機梯度降低法中每次僅根據一個樣本對模型中的參數進行調整數據 優勢：能夠必定程度上解決局部最優解的問題margin 缺點：容易震盪，收斂速度較慢co 3）批量梯度降低BGMbat 優勢：容易陷入局部最優解參數 缺點：收斂速度較快模型 4）mini_batch梯

>>阅读原文<<