l1和l2正則區別

引入： 範數與正則項 所謂範數，就是某種抽象的長度。範數滿足通常意義上長度的三個基本性質： 非負性 齊次性 三角不等式 在這裏，我們需要關注的最主要是範數的「非負性」。我們剛纔講，損失函數通常是一個有下确界的函數。而這個性質保證了我們可以對損失函數做最優化求解。如果我們要保證目標函數依然可以做最優化求解，那麼我們就必須讓正則項也有一個下界。非負性無疑提供了這樣的下界，而且它是一個下确界——由齊次性

>>阅读原文<<