機器學習_L1爲什麼比L2更容易產生稀疏解

我們首先可以設目標函數爲 L L L,目標函數中的權值參數爲 w w w,那麼目標函數和權值參數的關係如下所示: 如上圖所示,最優的 w w w在綠色的點處,而且 w w w非零。 我們首先可以使用L2正則進行優化,新的目標函數: L + C W 2 L + CW^{2} L+CW2,示意圖如下藍線所示: 我們可以看到,最優的 w w w出現在黃點處, w w w的絕對值減小了,更靠近橫座標軸,但
相關文章
相關標籤/搜索