過擬合、正則化、L1與L2正則

正則化(regularization)，是指在線性代數理論中，不適定問題通常是由一組線性代數方程定義的，而且這組方程組通常來源於有着很大的條件數的不適定反問題。大條件數意味着舍入誤差或其它誤差會嚴重地影響問題的結果。 通俗定義：就是給平面上不可約代數曲線以某種形式的全純參數表示。 主要解決的問題 1、正則化就是對最小化經驗誤差函數加上約束（比如在分類損失函數中，交叉熵後面的那一項就是約束項，也就是

>>阅读原文<<