[機器學習] 矩陣求導最小二乘問題

原文請點擊 關於最小二乘問題的求解，之前已有梯度下降法，還有比較快速的牛頓迭代。今天來介紹一種方法，是基於矩陣求導來計算的，它的計算方式更加簡潔高效，不需要大量迭代，只需解一個正規方程組。 在開始之前，首先來認識一個概念和一些用到的定理。矩陣的跡定義如下： 一個 n*n 的矩陣的跡是指的主對角線上各元素的總和，記作 tr(A) t r ( A ) 。即 tr(A)=∑i=1naii t r ( A

>>阅读原文<<