線性代數知識點

線性代數知識點記錄

線性方程組是線性代數的核心。

線性方程組是一個或幾個包含相同變量x1 ,x2 ,...,xn的線性方程組成的。

線性方程組的一組解是一組數。

方程組全部可能的解的集合稱爲線性方程組的解集。兩個線性方程組如有相同的解集，則稱爲等價的。

相容：一個線性方程組有一個解或無窮多個解

不相容：無解

係數矩陣：把每個變量的係數寫在對齊的一列中

增廣矩陣：把係數矩陣添加上一列，內容是方程組右邊的常數

 

線性方程組的解法

思路是把方程組用一個更容易解的等價方程組（既有相同解集）代替

用方程序第一個含x1的項消去其餘方程組x1的項，而後用第二個含x2的項消去其餘含x2的項，以此類推

三種基本變化

1. （倍加變換）把某一個方程換成它與另外一個方程的倍數的和
2. （對換變換）交換兩個方程的位置
3. （倍乘變換）把某一個方程的全部項乘以一個非零常數

行化簡與階梯型矩陣

先導元素：該行中最左邊的非零元素

階梯形矩陣三個性質：

1. 每一非零行在每一零行之上

2. 某一行的先導元素所在的列位於前一行先導元素的右面

3. 某一行先導元素所在列下方元素都是零

簡化階梯型-上面基礎上添加兩個性質

4. 每一非零行的先導元素是1

5. 每個先導元素1是該元素所在列的惟一非零元素

主元位置：對應於它的階梯形中先導元素的位置。

主元列：含有主元位置的列

第1~4步稱爲行化簡算法的向前步驟。第5步稱爲向後步驟

基本變量：主元列的變量稱爲基本變量

自由變量：其餘變量稱爲自由變量

僅含一列的矩陣稱爲列向量，簡稱向量。 

向量：僅有一列的矩陣，標記R ⁿ，R是實數集，n是每一個向量包含n個數。用（1 2）來表示

線性組合：向量和標量稱爲線性組合。

Span{v1,v2,...,vn}：全部向量的線性組合。形如：c1v1+c2v2

Ax=b：若A是m*n的矩陣，各列爲a1,...,an。若x是R ⁿ中的向量，則A與x的積，記爲Ax。就是A的各列以x中對應元素爲權的線性組合

注意Ax僅當A的列數等於x中元素個數時纔有定義

矩陣方程：Ax=b這種形式的方程。

向量方程：

 

方程Ax=b有解當且僅當b是A的各列的線性組合

設A是m*n矩陣，下面命題成立

• 對Rn中每一個b，方程Ax=b有解
• Rn中每一個b都是A的列的一個線性組合
• A的各列生成Rn
• A在每一行都有一個主元位置 

點積：矩陣Ax的第一個元素是A的第一行與x中相應元素乘積之和

向量規則：若乘積Ax有定義，則Ax中的第i個元素是A的第i行元素與x的相應元素乘積之和

單位矩陣：主對角線上元素爲1，其餘位置上元素爲0.記爲  I .。對於任意R ³中的x，Ix=x

齊次線性方程：線性方程組若能夠寫成Ax=0的形式，稱爲齊次的。A是m+n矩陣。這樣方程組至少有一個解，稱爲它的平凡解。

平凡解：Ax=0中的零解,即x=0，稱爲平凡解。

非平凡解：知足Ax=0的非零向量x

齊次方程Ax=0有非平凡解，當且僅當方程至少有一個自由變量

參數向量方程：有時可寫爲x=su+tv（s,t爲實數）

非齊次方程組：當非齊次線性方程組有許多解時，通常可表示爲參數向量形式，即由一個向量加上知足對應的齊次方程的一些向量的任意線性組合的形式

線性無關

定義：若是一組向量中的任意一個向量不能表示成其餘向量的線性組合，那麼這組向量稱爲線性無關

定義：若向量方程x1v1+x2v2+...+xpvp=0,僅有平凡解。則向量{v1,...,vp}稱爲線性無關的。

定義：若向量方程c1v1+c2v2+...+cpvp=0,存在不全爲零的權c1,...,cp。則向量組{v1,...,vp}稱爲線性相關的。

方程2稱爲向量v1,...,vp之間的線性相關關係，其中權不全爲零，一組向量爲線性相關，它不是線性無關的。

方程有3個基本變量，沒有自由變量，所以方程Ax=0僅有平凡解，A的各列是線性無關的。

線性相關集的特徵

兩個或多個向量的集合S={v1,...,vp}線性相關，當且僅當S中至少有一個向量是其餘向量的線性組合，事實上，若S線性相關，且v1 ! = 0，則某個vj(j>1)是它前面幾個向量v1,...,vj-1的線性組合

定理：若一個向量組的向量個數超過每一個向量元素個數，那麼這個向量組線性相關，就是說，R ⁿ中任意向量組{v1,...,vp}，當p>n時線性相關

定理：若向量組S={v1,...,vp}包含零向量，則它線性相關

線性變換

矩陣A當作一種對象，經過乘法做用於向量x，產生的新向量稱爲Ax

例如，方程乘以矩陣A後，將x變成b，將u變成零向量 

方程Ax=b就是要求出R^4中全部通過乘以A的做用後變爲b的向量x，由x到Ax的對應是由一個向量集到另外一個向量集的函數。

由Rn到Rm的一個變換（或稱函數、映射）T是一個規則，把Rn中每一個向量x對應以Rm中的一個向量T(x)，Rn稱爲T的定義域，而Rm稱爲T的餘定義域（或取值空間）符號T：Rn->Rm說明T的定義域是Rn而餘定義域是Rm，對於Rn中向量x，Rm中向量T(x)稱爲x的像，全部像T(x)的集合稱爲T的值域

 

矩陣變換

對R ⁿ中每一個x，T(x)由Ax計算獲得，其中A是m*n矩陣，有時將這樣一個矩陣變換記爲x->Ax，當A有n列時，T的定義域爲Rn，而當A的每一個列有m個元素時，T的餘定義域爲Rm。T的值域爲A的列的全部線性組合的集合

設A=[[1,3],[0,1]]，變換T：R2->R2定義爲T(x)=Ax稱爲剪切變換 

線性變換

若A是m*n矩陣，則變換x->Ax有如下性質

A(u+v)=Au+Av和A(cu)=cAu

u,v是R ⁿ中任意向量，c是任意數，這些性質若用函數記號來表示，就獲得線性代數中最重要的一類變換。

定義：變換T稱爲線性的，若對T的定義域中一切u,v，T(u+v)=T(u)+T(v)。對一切u和標量c，T(cu)=cT(u)

每一個矩陣變換都是線性變換，保持向量的加法運算與標量乘法運算，先將R ⁿ中的u和v相加而後再做用以T的結果T(u+v)等於先把T做用於u和v而後將R ^m中的T(u)和T(v)相加。

若T是線性變換，則T(0)=0

且對T的定義域中一切向量u和v以及數c和d有：T(cu+dv)=cT(u)+dT(v)

線性變換的矩陣

從Rn到Rm的每個線性變換，實際上都是一個矩陣變換x->Ax，並且變換T的性質都歸結爲A的性質。尋找矩陣A的關鍵，是瞭解T徹底由它對單位矩陣In的各列的做用所決定

定理：設T：Rn->Rm爲線性變換，則存在惟一的矩陣A，使T(x)=Ax，對Rn中一切x。A是m*n矩陣，它的第j列是向量T(ej)，其中ej是單位矩陣In的第j列：A=[T(ei) ... T(en)]

存在於惟一性

線性變換的概念給出一種新的瞭解之前提到的存在惟一性問題的觀點

定義：映射T:Rn->Rm稱爲到Rm上的映射，若Rm中任一b都至少有一個Rn中的x與之對應（也稱爲滿射） 

定義：映射T:Rn->Rm稱爲一對一映射，若Rm中每一個b是Rn中至多一個x的項（也稱爲單射）

定義：設T:Rn->Rm爲線性變換，則T是一對一當且僅當方程Ax=0僅有平凡解

定義：設T:Rn->Rm是線性變換，設A爲T的標準矩陣，則T把Rn映上到Rm，當且僅當A的列生成Rm。T是一對一的，當且僅當A的列線性無關。

矩陣運算

若A是m*n矩陣，有m行n列。A的第i行和第j列的元素用a _ij表示，稱爲A的(i,j)元素。

矩陣相等：如有相同的維數，而對應元素相等。

方陣：行和列相等的矩陣

若A與B都是m*n矩陣，則A+B也是m*n矩陣。各列是A與B對應列之和，因列的向量加法是對應元素相加，A+B的每一個元素也就是A與B的對應元素相加。僅當A與B有相同維數，A+B纔有定義

定理：ABC是相同維數的矩陣，r與s爲數，則知足下面條件

A+B=B+A

(A+B)+C=A+(B+C)

A+0=A

r(A+B)=rA+rB

(r+s)A=rA+sA

r(sA)=(rs)A

矩陣乘法：若A是m*n矩陣，B是n*p矩陣，B的列是b1,...bp,則乘積AB是m*p矩陣。

該乘法操做定義爲

∑西格瑪，總和符號。例如∑Pi其中i=1,2,那麼就是求P1+P2的總和。∑下面的數字表示從幾開始求和，上面的數字表示求和到幾截止。

下列定理列出了矩陣乘法的重要性質

設A爲m*n矩陣，B，C的維度使下列各式的乘積成立

A(BC)=(AB)C 乘法結合律

A(B+C)=AB+AC 乘法左分配律

(B+C)A=BA+CA 乘法右分配律

r(AB)=(rA)B=A(rB)

I _m A = A = AI _m　　矩陣乘法的恆等式

矩陣的乘冪：若A是n*n矩陣，k是正整數，則A ^k表示k個A相乘。若k=0，則A ⁰ x就是x自己，稱爲單位矩陣

矩陣的轉置：給定m*n矩陣A，則A的轉置是一個n*m矩陣，用A ^T表示。對角線左上至右下進行翻轉。

設A與B表示矩陣，其維數使下列和與積有定義

(A ^T ) ^T =A

(A+B) ^T =A ^T +B ^T

(rA) ^T = rA ^T

(AB) ^T = B ^T A ^T

矩陣的逆

矩陣對逆的通常化也要求兩個方程同時成立，並避免使用斜線記號表示除法，由於矩陣乘法不是可交換的。

一個n*n矩陣A是可逆的，若存在一個n*n矩陣C使：AC=I 且CA=I

這裏I是n*n單位矩陣。此時稱C是A的逆陣。若A可逆，它的逆是惟一的，記做A ^-1

AA ^-1 =I，且A ^-1 A = I

不可逆矩陣有時稱爲奇異矩陣，而可逆矩陣也稱爲非奇異矩陣

這裏給出2*2矩陣可逆的驗證方法，同時給出一個簡單的公式給出它的逆矩陣

可逆矩陣在線性代數中很重要，用於在計算和公式推導中。

定理：若A是可逆n*n矩陣，則對每個R ⁿ中的b，方程Ax=b有惟一解x=A ^-1 b

定理：若A是可逆矩陣，則A ^-1也可逆並且（A ^-1）^-1 =A

若A和B都是n*n可逆矩陣，AB也可逆，且其逆是A和B的逆矩陣按相反順序的乘積，(AB) ^-1 =B ^-1 A ^-1

若A可逆，則A ^T也可逆，且其逆是A ^-1的轉置，即(A ^T ) ^-1 =(A ^-1 ) ^T

初等矩陣

單位矩陣進行一次行變換，就獲得初等矩陣

計算E ₁ A,E ₂ A,E ₃ A，說明這些乘積可由A進行變換獲得

定理：n*n矩陣A是可逆的，當且僅當A行等價於I ⁿ，這時把A變成I ⁿ的一系列初等行變換同時把In變成A ^-1

求A ^-1的算法：把增廣矩陣[AI]進行行簡化，若A行等價於I，則[AI]行等價於[IA ^-1 ]，不然A沒有逆

逆矩陣的另外一個觀點

用e1,...,en表示In的各列，則把[AI]行變換成[I A-1]的過程可看做解n個方程組，

Ax=e1, Ax=e2,...,Ax=en （1）

其中這些方程組的「增廣列」都放在A的右邊，構成矩陣

[A e1 e2 ... en]=[AI]

方程AA ^-1 =I及矩陣乘法的定義說明A ^-1的列正好是方程（1）的解，這一點頗有用。若是隻須要A-1的一列或兩列，這時只須要解（2）中的相應方程

可逆矩陣特徵

定理：設A和B爲方陣，若AB=I，則A和B都是可逆的，且B=A ^-1，A=B ^-1

可逆矩陣定理的做用在於它給出了許多重要概念的聯繫。

例如矩陣A的列的線性無關性與形如Ax=b的解存在性關聯起來。可逆矩陣定理僅能用於方陣。

例如若一個4*3矩陣的列線性無關，不能用可逆矩陣定理判定形如Ax=b的方程的解的存在性或不存在性

可逆線性變換

線性變換T:R ⁿ ->R ⁿ稱爲可逆的，若存在函數S:R ⁿ ->R ⁿ使得

1.對全部R ⁿ中的x，S(T(x))=x

2.對全部R ⁿ中的x，T(S(x))=x

下列定理說明若這樣的S存在，是惟一的並且必是線性變換，稱S是T的逆，把它寫成T ^-1

定理：設T:Rn->Rn爲線性變換，A爲T的標準矩陣，則T可逆當且僅當A是可逆矩陣，這時由S(x)=A-1x定義的線性變換S是知足上面1,2的惟一函數

分塊矩陣

能夠把矩陣看作一個數的矩形表，能夠把它看作一組列向量。所以想考慮A的其餘分塊，用水平線和豎直線分紅幾塊。分塊矩陣也出如今線性代數的現代應用中，由於這些記號簡化了許多討論，並使矩陣計算中許多本質的結構顯露出來。 

矩陣因式分解

矩陣A的因式分解是把A表示爲兩個或更多個矩陣的乘積。矩陣乘法是數據的綜合，矩陣因式分解是數據的分解，在計算機科學的語言中，將A表示爲矩陣的乘積是對A中數據的預處理，把這些數據組成兩個或更多部分，這種結構可能更有用，或者更便於計算。

LU分解

A是m*n矩陣能夠行化簡爲階梯型而沒必要行對換，則A能夠寫成形式A=LU，L是m*m下三角矩陣，主對角線元素全時1，U是A的一個等價的m*n階梯形矩陣。這樣一個分解稱爲LU分解，矩陣L是可逆的，稱爲單位下三角矩陣

當A=LU時，方程Ax=b能夠寫成L(Ux)=b，把Ux寫成y，能夠由解下面一對方程來求解x：

Ly=b、Ux=y

首先解Ly=b，而後解Ux=y求得x，每一個方程都比較容易解，由於L和U都是三角矩陣

R ⁿ的子空間

Rn中重要的向量子集，稱爲子空間。一般子空間與某個矩陣A有關，提供了關於方程Ax=b的有用信息。

定義：Rn中的一個子空間是Rn中的集合H，具備如下三個性質

1. 零向量屬於H

2. 對H中任意的向量u和v，u+v屬於H

3. 對H中任意向量u和數c，cu屬於H

子空間對加法和標量乘法運算是封閉的。

不經過原點的一條直線不是子空間，由於它不包括原點

僅含零向量的集合，是一個特殊的子空間，也知足子空間的條件，稱爲零子空間

矩陣的列空間與零空間

應用中，Rn的子空間一般出現如下兩種狀況中，他們都與矩陣有關

定義：矩陣A的列空間是A的各列的線性組合的集合，記做Col A.

若A=[a1,...,an]，它們各列屬於Rm，則Col A和Span{a1,...,an}相同。m*n矩陣的列空間是Rm的子空間

定義：矩陣A的零空間是齊次方程Ax=0的全部解的集合，記爲Nul A

當A有n列時，Ax=0的解屬於Rn，A的零空間是Rn的子集。事實上，Nul A具備Rn的子空間的性質

定理：m*n矩陣A的零空間是Rn的子空間，等價地，n個未知數的m個齊次線性方程的解的全體是Rn的子空間

子空間的基

子空間通常含有無窮多個向量，子空間中的問題最好可以經過研究生成這個子空間的一個小的有限集合來解決，這個集合越小越好。能夠證實，最小可能的生成集合必是線性無關的。

定義：Rⁿ中子空間H的一組基是H中一個線性無關集，它生成H 

維數與秩

座標系

選擇子空間H的一個基代替一個純粹生成集的主要緣由，是H中的每一個向量能夠被表示爲基向量的線性組合的惟一形式。假設B={b1,...,bp}是H的基，H中的一個向量x能夠由兩種方式生成，設

 

 

 

 

 

 

 

 

 

 

 

#