凸優化學習筆記 15：梯度方法

前面的章節基本上講完了凸優化相關的理論部分，在對偶原理以及 KKT 條件那裏我們已經體會到了理論之美！接下來我們就要進入求解算法的部分，這也是需要濃墨重彩的一部分，畢竟我們學習凸優化就是爲了解決實際當中的優化問題。我們今天首先要接觸的就是大名鼎鼎的梯度方法。現在人工智能和人工神經網絡很火，經常可以聽到反向傳播，這實際上就是梯度下降方法的應用，他的思想其實很簡單，就是沿着函數梯度的反方向走就會使函數

>>阅读原文<<