損失函數———有關L1和L2正則項的理解

一、損失函: 模型的結構風險函數包括了   經驗風險項  和  正則項,如下所示:   二、損失函數中的正則項 1.正則化的概念:       機器學習中都會看到損失函數之後會添加一個額外項,常用的額外項一般有2種,L1正則化和L2正則化。L1和L2可以看做是損失函數的懲罰項,所謂懲罰項是指對損失函數中某些參數做一些限制,以降低模型的複雜度。      L1正則化通過稀疏參數(特徵稀疏化,降低權重
相關文章
相關標籤/搜索