【線性代數公開課MIT Linear Algebra】 第四課 從矩陣消元到LU分解

本系列筆記爲方便往後本身查閱而寫，更多的是我的看法，也算一種學習的複習與總結，望有始有終吧~

矩陣的逆與轉置

---

爲何逆矩陣要反過來？這就像是…你先把鞋子脫了再脫襪子，那麼反過來不就是要先穿上襪子，再穿鞋子嗎？因此說，忘記書上的蠢例子吧。

一個顯而易見的性質， (AB)−1=(B−1A−1)
引出另一個性質： (AB)T=BTAT

如上圖 (AA−1)T=(A−1)TAT=IT=I
可知 (AT)−1=(A−1)T

LU分解

---

其實，消元的目的只是爲了正確認識矩陣的概念，而LU分解是最基礎的矩陣分解。

還記得咱們如何將一個矩陣化爲上三角（upper triangular）嗎？見下面的例子：

寫爲 A=LU 的形式，則 A=E−121U

注意到 L 爲下三角矩陣(lower triangular)
有時候會寫成下面的形式，是 L 和 U 對角線上全爲 1

中間的矩陣會是一個對角矩陣(diagonal matrix)，因此也叫 LDU 分解
那麼爲何咱們要寫成這種形式呢？咱們知道 EA=U 這裏的 E 就是在學校的時候被老師各類折磨叫咱們如何將矩陣化爲上三角、階梯矩陣等等諸如此類的東西，那麼爲何非要寫成 A=E−1U=LU 呢？見例子：

看看 E 和 L 的差異， E 中的因爲兩個矩陣相乘將二次的做用疊加到了最後的結果上，使得你沒法輕易地經過觀察最終的 E 瞭解中間的步驟，而反觀它的逆也就是 L ，你能夠很直觀的看出消元的步驟。

額外知識：讓咱們試着考察一下 LU 分解的複雜度，對於 N∗N 矩陣，首先你須要把第 2 N 行乘一個係數減去第一行，這裏咱們將以此乘法以此減法當作一次操做，那麼很明顯須要 ∑1i=N−1i2=13N3

上面的狀況都是在pivot不爲零的狀況下進行的，當pivot等於0時，咱們須要交換行來選擇新的pivot，用於交換行的矩陣稱爲permutation matrix(排列矩陣？)，咱們很容易就能夠列舉出在3*3的狀況下的全部排列矩陣：

排列矩陣 P 有一個很奇妙的性質： P−1=PT

PS：本文圖片皆來自公開課視頻截圖
PS2：LU分解在MATLAB中有現成的函數，找時間介紹其使用。