【深度學習】凸優化 - 次梯度算法

專欄【深度學習】 什麼是次梯度？並不是很懂，就抽了一些時間，查了資料（很多資料來自百度百科），總結整理了這個博文，記錄下自己的學習過程。 0、前言 次梯度方法(subgradient method)是傳統的梯度下降方法的拓展，用來處理不可導的凸函數。它的優勢是比傳統方法處理問題範圍大，劣勢是算法收斂速度慢。但是，由於它對不可導函數有很好的處理方法，所以學習它還是很有必要的。 1、導數(Deriva

>>阅读原文<<