機器學習學習筆記（4）----線性迴歸的數學解析

預備知識，向量微積分： 對向量求偏導數： 1）y是標量函數，y=cTx=xTc（T是指矩陣的轉置） 2）y是向量函數，y=Ax 3）y是標量函數，y=xTAx（T是指矩陣的轉置，A是n*n矩陣） 求向量x的偏導數 線性迴歸的假設函數： 線性迴歸的損失函數： 現在可以將線性迴歸問題，轉換成求最小值問題，即找到一個最優的w使得j(w)最小： 以上求最優w的方法被稱爲普通最小二乘法。 參考資料： 《快樂

>>阅读原文<<