座標下降法(Coordinate descent)

首先介紹一個算法：coordinate-wise minimization 問題的描述：給定一個可微的凸函數，如果在某一點x，使得f(x)在每一個座標軸上都是最小值，那麼f(x)是不是一個全局的最小值。 形式化的描述爲：是不是對於所有的d，i都有 這裏的代表第i個標準基向量。 答案爲成立。 這是因爲： 但是問題來了，如果對於凸函數f，若不可微該會怎樣呢？ 答案爲不成立，上面的圖片就給出了一個反例。

>>阅读原文<<