凸優化學習-（二十四）無約束優化算法——梯度下降法

凸優化學習 梯度下降法是最經典、最簡單的算法，要求目標函數一階可微無約束，有 m,M \textbf{m,M} m,M控制凸性。 學習筆記 一、梯度下降法 形如： d k = − ∇ f ( x k ) Repeat d k = arg ⁡ min ⁡ f ( x k + α d k ) α max ⁡ ≥ α ≥ 0 x k + 1 = x k + α k d k Until Convergen

>>阅读原文<<