線性代數筆記27——對稱矩陣及正定性

 

原文 | https://mp.weixin.qq.com/s/zdQttJfuubyztiVplScbwA

對稱矩陣

　　對稱矩陣是最重要的矩陣之一，對於對稱矩陣來講，A=A^T。矩陣的特殊性也表如今特徵值和特徵向量上，好比馬爾可夫矩陣的有一個值爲1的特徵值，對稱矩陣的特徵值又有哪些特性呢？

 

　　本文的相關知識：

　　　　正交向量和正交矩陣  （線性代數20——格拉姆-施密特正交化）

　　　　投影矩陣 （線性代數18——投影矩陣和最小二乘）

　　　　複數 （閒話複數（1））

 

譜定理

　　對於實對稱矩陣來講，它的特徵值也爲實數，而且可以挑選出徹底正交的特徵向量。

　　單位矩陣是對稱矩陣，它的特徵值都是1，而且單位矩陣的每個列向量都是特徵向量，它們徹底正交，所以單位矩陣確定符合實對稱矩陣特徵值和特徵向量的性質。

　　P是投影矩陣也是單位矩陣，x是一個二維向量，若是x在平面的投影是x自己，即Px=x，那麼平面內的全部向量都是P的特徵向量。更通常的狀況是，在重特徵值的狀況下，可能一個平面內的全部向量都能做爲特徵向量，所以咱們說實對稱矩陣「可以挑選出徹底正交的特徵向量」，下面是一個例子：

　　A的特徵值所有是λ=a，對於任何向量都有Ax=λx，所以任何向量都是特徵向量，但這些特徵向量並不都是正交的，因此是從中選出一套正交向量。

　　若是A有n個線性無關的特徵向量，那麼A能夠對角化爲A=S∧S^-1，若是A是對稱矩陣，那麼A對角化後有更好的性質：

　　Q是A的特徵向量矩陣，同時也是正交矩陣，列向量是標準正交基。對於一個列向量標準正交的矩陣來講，矩陣的逆等於矩陣的轉置，所以：

　　上式是說，若是給定一個對稱矩陣，那麼這個矩陣就能夠分解成正交矩陣乘以特徵值矩陣再乘以正交矩陣的轉置的形式，這種分解在數學上稱爲「譜定理」，將特徵值的集合視爲譜，力學上稱爲「主軸定理」。

　　譜定理展現了對稱矩陣的對稱性，Q∧Q^T的轉置仍是原矩陣：

　　∧是對角矩陣，它的轉置仍是∧。

爲何是實特徵值？

 

　　矩陣的特徵值可能爲虛數，但實對稱矩陣的特徵值必定是實數，這又是什麼原理？

　　先解釋一下共軛複數(conjugate complex number)：兩個實部相等，虛部互爲相反數的複數互爲共軛複數。當虛部不爲零時，共軛複數就是實部相等，虛部相反；若是虛部爲零，其共軛複數就是自身。複數z的共軛複數用z上面加一橫表示。

　　「軛」的本意是兩頭牛背上的架子，軛使兩頭牛同步行走。共軛是指按必定的規律相配的一對。

　　若是實矩陣A有特徵值λ和特徵向量x，則Ax=λx。若是λ是複數，則λ的共軛複數知足：

　　若是等號兩側同時轉置：

　　λ是對角矩陣，其共軛仍然是對角矩陣，所以：

　　兩側同時乘以x：

　　另外一方面，將Ax=λx兩側同時乘以x共軛的轉置：

　　如今假設A是對稱矩陣，則①和②相等，即：

　　根據共軛複數的定義，若是一個複數的共軛等於這個數自己，那麼其虛部爲0，即這個數是實數。

　　如今的問題是如何證實？

　　對於虛數來講，i²=-1，(bi)²=-b²。對於複數來講，z=a+bi來講，它的模幾何意義是複平面上一點(a,b)到原點的距離，模長的計算公式是：

　　所以：

　　對於復矩陣來講，若A是共軛對稱復矩陣，即，那麼上面的推導仍然成立，A的特徵值也是實數。

朝向正交向量的投影矩陣

　　對於一個實對稱矩陣A=A^T，能夠寫成下面的形式：

　　根據投影矩陣的定義：向量b的在向量a上的投影是一個矩陣做用在b上獲得的，這個矩陣就叫作投影矩陣（Projection Matrix），用大寫的P表達：

　　因爲Q中的向量是正交向量，所以：

　　因此q_kq_k^T是某個向量在q_k上的投影矩陣，所以每個對稱矩陣也是朝向正交向量的投影矩陣的線性組合。

特徵值的符號

　　咱們已經知道對稱矩陣的特徵值是實數，下一個問題是弄清它們的符號，這對微分方程來講意味着狀態是否穩定。

　　咱們能夠經過計算的方式求解特徵值，而後回答特徵值的符號問題，但對於一個大型矩陣來講，經過計算det(A-λI) = 0來求解特徵值並不容易。值得慶幸的是，對於對稱矩陣來講，主元和特徵值存在着相關性：主元和特徵值的個數同樣，且正負主元的個數都和正負特徵值的個數相同。

正定矩陣

　　正定矩陣是一類特殊的實對稱矩陣，若是一個矩陣M知足對於任何非零向量z，都有z^TMz> 0，那麼這個矩陣是正定矩陣。

 

　　正定矩陣有不少重要的性質，其中一個是：正定矩陣的特徵值和主元都是正數。

 

　　來看一個正定矩陣：

　　首先A是一個對稱矩陣，如今來計算一下它的主元。能夠經過化簡行階梯矩陣的形式求得主元，在通過變換後，矩陣表示的「數表」改變了，可是若是將矩陣看方程組，那麼方程組的本質沒有變，能夠將初等變換當作方程組的消元過程。

　　兩個主元是5和11/5。另外一種方式或許更爲簡單，原矩陣中轉換成上三角矩陣的時候，必定能變成下面的形式：

　　它的行列式是主對角線元素的乘積，行列式的值又和原矩陣的行列式相等，所以a=det(A)/5=11/5。

　　相似地，可對角化的矩陣可也以化成對角元素都是其特徵值的對角矩陣，而行列式的值不變，對角矩陣的行列式就是對角元素相乘，所以A的行列式也等於A的特徵值的乘積。

　　特徵值：

與行列式的關係

　　正定矩陣的主元和特徵值都是正數，所以能夠肯定其行列式也是正數（行列式等於主元的乘積，也等於全部特徵值的乘積），但行列式是正數的矩陣不必定是正定矩陣，好比下面這個矩陣，雖然行列式是正值，但並非一個正定矩陣，甚至都不是對稱矩陣：

　　若是把行列式做爲正定矩陣的斷定依據，則對於n階矩陣來講，須要矩陣左上角的全部k×k (1≤k≤n)子行列式均爲正，才能斷定矩陣是正定矩陣。

正定矩陣的性質

　　正定矩陣都是可逆的。

　　矩陣可逆的條件是行列式不等於0，行列式等於特徵值的乘積，正定矩陣的性質又規定特徵值是正數，所以正定矩陣的行列式必定大於0，是可逆矩陣。

　　

　　只有正定的投影矩陣纔是單位矩陣。

　　若是P是投影矩陣，那麼P的特徵值要麼是0，要麼是1。若是P是正定的，那麼根據定義，它的特徵值只能是1，特徵值矩陣是單位矩陣，所以：

　　

　　若是D是一個對角元素都是正數的對角矩陣，那麼D必定是個正定矩陣。

　　對角矩陣確定是對稱的，對於任何非零向量x來講：

　　知足正定矩陣的定義。

　　

　　若A是正定矩陣，則A的逆矩陣也是正定矩陣。

　　首先證實矩陣A的逆是對稱矩陣。由於A是正定的，因此：

　　再證實x^TA^-1x > 0

　　A是正定矩陣，對於任意向量u來講，u^TAu > 0，所以x^TA^-1x > 0，A^-1也是正定矩陣。

　　

　　兩個正定矩陣的和是正定矩陣。

　　

　　正實數與正定矩陣的乘積是正定矩陣。

---

　　做者：我是8位的

　　出處：https://mp.weixin.qq.com/s/zdQttJfuubyztiVplScbwA

　　本文以學習、研究和分享爲主，如需轉載，請聯繫本人，標明做者和出處，非商業用途！ 

　　掃描二維碼關注做者公衆號「我是8位的」