正則化和範數

L1範數:  ||X||1=(|x1|+|x2|+...+|xn|) L2範數:  ||X||2=(|x1|2+|x2|2+...+|xn|2)12 特別的,L0範數:指向量中非零元素的個數。無窮範數:指向量中所有元素的最大絕對值。 L1正則化和L2正則化可以看做是損失函數的懲罰項。所謂『懲罰』是指對損失函數中的某些參數做一些限制。對於線性迴歸模 型,使用L1正則化的模型建叫做Lasso迴歸,使用
相關文章
相關標籤/搜索