[一塊兒面試AI]NO.6 誤差與方差

誤差度量了學習算法的指望與真實結果的誤差，刻畫了算法自己的「擬合能力」，方差度量了一樣大小的訓練集的變更所致使的學習性能的變化。

誤差與方差

誤差用於描述模型的擬合能力，方差用來描述模型的穩定性。

當訓練度不足的時候，誤差主導模型的泛化偏差；

當訓練進入後期，模型的擬合能力加強，方差主導模型的泛化偏差；

當訓練足夠的時候，若是擬合能力過強會致使過擬合。

Q1 泛化偏差、誤差、方差與噪聲之間的關係

學習器在訓練集上的偏差被稱爲「訓練偏差」或「經驗偏差」，在新樣本的偏差被稱爲「泛化偏差」。

「噪聲」爲真實標記與數據集中實際標記之間的偏差。

「誤差」爲指望預測與真實標記的偏差成爲誤差。

「泛化偏差」可分解爲誤差、方差和噪聲之和。

本問題涉及大量的公式運算，由於主要面向於面試對話，因此方程再也不列出，有興趣的能夠點擊此處來了解具體過程。

Q2 致使誤差和方差的緣由是什麼

「誤差」是因爲模型的複雜度不夠或者對學習算法作了錯誤的假設；

好比真實模型爲三次函數，而擬合出來的爲二次函數，會致使誤差「激增」，屬於欠擬合現象。因此訓練偏差主要是誤差形成的。

而方差一般是模型複雜度太高致使的；

好比真實模型是二次函數，而擬合出來的是五次函數，會致使「過擬合」，方差「增大」。由方差引發的偏差一般體如今測試偏差相對訓練偏差的變化上。

❝

最後：
想要看更多就關個注
你看看個人粉絲數🙆

❞