凸優化理論學習

在機器學習和深度學習的工作中，最後一步都是對損失函數的極值計算，而這個極值如果我們能夠找到全局極值也就是最小值，這是最好的情況；否則我們就必須想辦法把原來的問題進行轉化或者嘗試其他的方法。這其中用到的方法就是凸優化理論。 下面我將對我學習的凸優化理論進行一些整理，知識點可能比較雜碎，但句句是關鍵和我們所必須瞭解的。 衡量一個問題難易的程度不在於其是否線性，而在於是凸問題還是非凸問題。 一階導數有時

>>阅读原文<<