線性收斂的隨機優化算法之 SAG、SVRG（隨機梯度降低）

原文出處：https://zhuanlan.zhihu.com/p/22402784?utm_source=tuicool&utm_medium=referral算法 這篇文章回顧了基於梯度的隨機優化算法在這幾年的重要發展 -- SAG、SVRG。網絡 不少常見的機器學習模型的目標（好比最小二乘作線性迴歸、邏輯迴歸）均可以歸納成如下這種通常形式：機器學習 其中 表明樣本的損失函數，是模型的參數，表

>>阅读原文<<