如何直觀理解拉格朗日乘子法與KKT條件

以前學習SVM時曾草草瞭解到過KKT條件，當然，關於KKT條件的前身也就是拉格朗日乘子法，是高數就接觸過的。如今學習最優化理論，又碰到了他倆，不得不說是一種緣分，當然這兩個概念也是機器學習算法中非常重要的，因爲機器學習歸根到底就是一種優化。接下來讓我們來一起看看。 拉格朗日乘子法 首先來了解拉格朗日乘子法，那麼爲什麼需要拉格朗日乘子法？記住，有拉格朗日乘子法的地方，必然是一個組合優化問題。那麼帶約

>>阅读原文<<