數學基礎系列(五)----矩陣、矩陣的秩、向量、特徵值與特徵向量

1、矩陣

一、係數矩陣

前面學習了矩陣不少基礎知識，那麼遇到具體的線性方程組該怎麼辦呢？該怎麼轉換爲矩陣來求解呢？以下圖所示，A爲係數矩陣，X是未知數矩陣，B是常數矩陣。

　　

二、矩陣轉置

簡單來講就是矩陣的行元素和列元素互相調換一下。

　　

下面列出一些矩陣轉置經常使用的公式

　　

這些都沒有什麼好說的，都比較好理解，要注意的是就是最後一個公式的先後的順序是不一樣的。

三、對稱矩陣

若是知足$A^{T}=A$，那麼A就是對稱矩陣

　　

四、逆矩陣

A爲n階方陣，若是說存在n階方陣B，使得AB=BA=I（I爲單位矩陣），那麼就稱A、B互爲逆矩陣，記做：B=A^-1

性質（前提矩陣可逆）：

　　

2、矩陣的秩

矩陣的秩很重要，對後面特徵值，特徵向量的理解很重要，要重點注意這個地方。

對於一個$S\times N$的矩陣：$A=\begin{bmatrix}a_{11} & a_{12} & \cdots  & a_{1n}\\ a_{21} & a_{22} & \cdots  & a_{2n}\\ \cdots  & \cdots  & \cdots  & \cdots \\ a_{s1} & a_{s2} & \cdots  & a_{sn}\end{bmatrix}$

矩陣A的每一行能夠看做一個N維向量：$\alpha _{i}=(a_{i1},a_{i2},\cdots ,a_{in}),i=1,2,\cdots ,s$，因此$\alpha _{1},\alpha _{2},\cdots ,\alpha _{s}$稱做A的行向量

矩陣A的每一列也能夠看做一個S維向量：$\beta _{j}=\begin{bmatrix}a_{1j}\\ a_{2j}\\ \vdots \\ a_{ij}\end{bmatrix},j=1,2,\cdots ,n$，因此$\beta _{1},\beta _{2},\cdots ,\beta _{n}$稱做A的列向量。

那麼矩陣的秩到底表示什麼呢？

好比說有一個矩陣$A=\begin{bmatrix}1 & 1 & 3 &1 \\ 0 & 2&-1  & 4\\ 0 & 0 & 0 & 5\\ 0 & 0 & 0 & 0\end{bmatrix}$

矩陣A的行向量組爲：$\begin{matrix}\alpha _{1}=(1,1,3,1) &\alpha _{2}=(0,2,-1,4) \\ \alpha _{3}=(0,0,0,5) & \alpha_{4}=(0,0,0,0)\end{matrix}$

如今咱們須要求這個行向量組的極大線性無關組，假設有$k_{1}\alpha _{1}+k_{2}\alpha _{2}+k_{3}\alpha _{3}=0$。具體代入以下圖所示

　　

解得$k_{1}=k_{2}=k_{3}=0$，即$\alpha _{1},\alpha _{2},\alpha _{3}$線性無關。

因爲矩陣裏面含有一個零向量，因此這個零向量必然和矩陣裏面其餘向量線性相關，因此向量組：$\alpha _{1},\alpha _{2},\alpha _{3},\alpha _{4}$的秩爲3。簡單來講，矩陣的秩就是矩陣裏面的全部向量最大的線性無關的數目。

對於列向量同理可得：$\beta _{3}=\frac{7}{2}\beta _{1}-\frac{1}{2}\beta _{2}+0\beta _{4}$，但$\beta _{1},\beta _{2},\beta _{4}$線性無關，因此向量組：$\beta _{1},\beta _{2},\beta _{3},\beta _{4}$的秩爲3，綜上所述，即矩陣的行秩等於列秩。

那麼矩陣的秩到底該怎麼來理解呢？如下內容參考了知乎大神的理解：https://www.zhihu.com/question/21605094

能夠對二維圖形(實際上就是表明一個矩陣)進行旋轉，好比用旋轉矩陣：$\begin{bmatrix}\cos(\theta )  &-\sin (\theta ) \\ \sin (\theta ) & \cos(\theta )\end{bmatrix}$去乘以二維圖形表明的矩陣。

　　

變換後依然是二維的，因此旋轉矩陣的秩爲2

在假如說經過這樣的矩陣$\begin{bmatrix}1 & -1\\ 1 & -1\end{bmatrix}$來對圖形進行旋轉。

　　

變換後是一維的，因此這個旋轉矩陣的秩爲1

矩陣中最大不相關向量的個數就是秩了。

舉個例子就很容易理解，你們排隊買票。若是你們互相不認識，那就會一個排一個，很是有秩序。然而，若是忽然來了一個與隊伍前面的人認識的人，這我的又不自覺，非要插隊。那後面的人確定要有意見了，說你要是這樣我前面還有認識的人呢，你插我也插，這樣整個隊伍就亂掉了，誰也買不成。

經過這個例子，可得如下結論：彼此不認識，那就不相關，就有秩序，問題就好解決；反之，彼此相關，就沒有秩序，問題就很差解決。因此，數學家們定義，矩陣中的最大的不相關的向量的個數，就叫秩，能夠理解爲有秩序的程度。

再好比說咱們家中有不少張照片（N），可是一家只有三口（R），因此咱們就把R當作矩陣的秩。

　　

3、向量

一、向量的內積

設有n維向量：$x=\begin{bmatrix}x_{1}\\ x_{2}\\ \vdots \\ x_{n}\end{bmatrix}$，$y=\begin{bmatrix}y_{1}\\ y_{2}\\ \vdots \\ y_{n}\end{bmatrix}$

$[x,y]=x_{1}\times y_{1}+x_{2}\times y_{2}+\cdots +x_{n}\times y_{n}$，此時咱們就把$[x,y]$叫作向量的內積(也叫點乘，注意和外積(叉乘)的區別)。

性質：

　　

二、向量的長度

n維向量x的長度：$\left | x \right |=\sqrt{[x,x]}=\sqrt{x_{1}^{2}+x_{2}^{2}+\cdots +x_{n}^{2}}\geqslant 0$。特別的，當|x|=1時稱爲單位向量。

齊次性：$\left | \lambda x \right |=\left | \lambda  \right |\cdot \left | x \right |$。

三角不等式：$\left | x+y \right |\leqslant \left | x \right |+\left | y \right |$。

　　

三、向量的正交。

兩兩正交的非零向量組成的向量組稱爲正交向量組。

若$\alpha _{1},\alpha _{2},\cdots ,\alpha _{r}$是兩兩正交的非零向量，則$\alpha _{1},\alpha _{2},\cdots ,\alpha _{r}$線性無關。

規範正交基，也叫標準正交基 

n維向量$e_{1},e _{2},\cdots ,e_{r}$是向量空間$V\subset R^{n}$中的向量。知足：

　　

則稱$e_{1},e _{2},\cdots ,e_{r}$是V的一個規範正交基。例如$e_{1}=\begin{bmatrix}1\\ 0\\ 0\\ 0\end{bmatrix},e_{2}=\begin{bmatrix}0\\ 1\\ 0\\ 0\end{bmatrix},e_{3}=\begin{bmatrix}0\\ 0\\ 1\\ 0\end{bmatrix},e_{4}=\begin{bmatrix}0\\ 0\\ 0\\ 1\end{bmatrix}$是$R^{4}$的一個規範正交基

4、特徵值與特徵向量

一、通俗理解

矩陣究竟作了什麼？假如說讓一個矩陣去乘以一個向量的話，那麼矩陣對向量既能夠作拉伸也能夠作旋轉，以下圖所示

　　

咱們先來理解爲何叫特徵值和特徵向量，好比說有以下式子：

　　

矩陣A固然是一個變換，而後這個變換的特殊之處是當它做用在特徵向量  上的時候，  只發生了縮放變換，它的方向並無改變，並無旋轉。就像 wikipedia 上通過了錯切變換的蒙娜麗莎同樣：

　　

這幅圖片在水平方向沒有改變， $\begin{bmatrix}1\\ 0\end{bmatrix}$就是一個它的特徵向量，對應的特徵值是 λ = 1 。

再好比說在一次拳擊比賽中， 拳擊怎麼贏？攻擊的方向與力量，咱們能夠把方向當作是特徵向量，在這個方向上用了多大的力量就是特徵值。

　　

二、數學定義

對於給定矩陣A，尋找一個常數λ和非零向量X，使得向量x被矩陣A做用後所得的向量AX與原向量X平行，而且知足AX=λX，那麼這個X就是表明的特徵向量了，λ表明的就是特徵值了。

　　

由全部的特徵向量組成了特徵空間

　　

三、特徵向量的應用 

既然特徵值表達了重要程度且和特徵向量所對應，那麼特徵值大的就是主要信息了，基於這點咱們就能夠提取各類有價值的信息了。