有監督迴歸：約束條件下的最小二乘法

1.前言 前面介紹的最小二乘學習法，是衆多機器學習算法中極爲重要的一種基礎算法。但是，單純的最小二乘法對於包含噪聲的學習過程經常有過擬合的弱點。如下圖所示： 這往往是由於學習模型對於訓練樣本而言過於複雜。因此，本篇博客將介紹能夠控制模型複雜程度的、帶有約束條件的最小二乘學習法。 2.部分空間約束的最小二乘學習法 在有參數線性模型： 的一般最小二乘學習法中，因爲參數{Θj}j=1->b可以自由設置，

>>阅读原文<<