最小二乘的幾何解釋

最小二乘主要用來做線性迴歸。 數據集形式爲：(X,T),X ,T 分別代表自變量與因變量。用矩陣來表示訓練數據時，往往每行代表一個數據。假設w 是迴歸係數，與x的維數相同。那麼最小二乘估計形式爲：    ，L是loss function，包含了訓練數據的所有誤差，把誤差分散在每個訓練數據上。L(W）展開後的形式爲： 。對展開式關於W求導後令倒數爲0，得到      這就是迴歸係數的解析解。 下面我

>>阅读原文<<