脈絡梳理,正則化和L範數直觀理解

1.正則化背景 雖然我們不斷追求更好的模型泛化力,但是因爲未知數據無法預測,所以又期望模型可以充分利用訓練數據,避免欠擬合。 這就要求在增加模型複雜度、提高在可觀測數據上的性能表現得同時,又需要兼顧模型的泛化力,防止過擬合。 爲了平衡這兩難的選擇,提出了正則化。 2.正則化定義 由此可以總結出,正則化的概念: 在模型中改善過擬合,降低結構風險,提高模型的泛化能力的添加項。 直譯應該是:規則化 3.
相關文章
相關標籤/搜索