原創 機器學習實戰(基於scikit-learn和TensorFlow)學習心得(21)--Lasso Regression, ridge regression,範數以及範數等值線

從前面兩個心得來看.兩種regression其實都是給cost function加一個懲罰項,不同的是lasso加的是一個一次累加懲罰項,而ridge regression加的是一個二次累加懲罰項. 用比較數學的話來說lasso加了一個l1範數的懲罰項而ridge加了一個l2範數的懲罰項. 先來說說什麼是範數 1. 範數 範數是一個長度概念,基本形態爲當p=1時就稱爲l1範數,寫作就是每個向量的一

>>阅读原文<<