【機器學習】次梯度(subgradient)方法

次梯度方法(subgradient method)是傳統的梯度下降方法的拓展,用來處理不可導的凸函數。它的優勢是比傳統方法處理問題範圍大,劣勢是算法收斂速度慢。但是,由於它對不可導函數有很好的處理方法,所以學習它還是很有必要的。 次導數 設f:I→R是一個實變量凸函數,定義在實數軸上的開區間內。這種函數不一定是處處可導的,例如最經典的例子就是,在處不可導。但是,從下圖的可以看出,對於定義域內的任何
相關文章
相關標籤/搜索