PRML第三章3.2

偏置-方差分解 前面討論的情況是假定了基函數的數量和形式，如果使用有限的數據集訓練模型，使用最大似然或者最小平方，將會導致過擬合問題。但是通過限制基函數的數量避免過擬合，則會限制模型描述數據中的規律。如何選擇合適的λ的值通過正則化來避免過擬合。 由第一章，我們知道–一旦確定了條件概率分佈p(t|x)，每一種的損失函數都能給出對應的最優預測結果。通常使用平方損失函數，此時的最優的預測由條件期望h(x

>>阅读原文<<