Gradient And Karush-Kuhn-Tucker Conditions

      最近開始面試，複習當中發現自己有很多基礎的東西有些模糊，藉此溫故而知新一下，並提醒自己基礎很重要，踏踏實實、戒驕戒躁。 一、梯度是什麼？ 1、一個小例子       假設有單變量實值函數，其圖形如下：         實值函數在點的導數的意義是該函數在處的瞬時變化率，即：    在自變量發生微小變化時，目標函數值的變化可以這麼描述：   針對上圖有以下三種情況： (1)、點位置，此時，

>>阅读原文<<