機器學習3-線性代數回顧

引語： 這一節基本上就是大學中學的線性代數的內容的複習。

1.矩陣和向量 矩陣定義：矩陣（Matrix）是一個按照長方陣列排列的複數或實數集合，最先來自於方程組的係數及常數所構成的方陣。 matrix：rectangular array of numbers 矩陣的維數：是指它的行數和列數，好比上圖就是一個4x2的矩陣
dimension of matrix：number of rows x number of columns 矩陣的元素：是矩陣中的數值，使用Aij來表示第i行第j列的數值

向量是特殊的矩陣：只有一列的矩陣，向量一般用小寫字母表示，矩陣一般用大寫的字母表示，向量有下標從0開始和1開始的，在機器學習中使用下標從1開始的更加常見一些。

2.加法和標量乘法 矩陣的加法：行列相同的兩個矩陣把Aij和Bij相加。好比下圖中結果C11（C是結果） = A11 + B11， 5 = 1 + 4。剩下的結果也直接對應的相加就能夠得出結果。可是隻能是行列相同的矩陣進行加法，不一樣的行列無法進行加法。

矩陣的標量乘法：矩陣的每一項和標量相乘便可。

3.矩陣向量乘法 這個在大學的時候學過，記得老師說的口訣左行乘右列

4.矩陣乘法 矩陣乘法和矩陣向量乘法是同樣的，都是左行乘右列把結果相加。向量是一種特殊的矩陣。 AxB能作乘法必須是A的列數等於B的行數，A（mxn的矩陣），B（nxo的矩陣）得出的C（是mxo的矩陣），能夠理解爲A的列n和B的行n相互消除了，剩下的A的行m和B的列o

5.矩陣乘法特徵 矩陣的乘法有一些特徵，好比咱們中小學學的交換律，結合律這種。
5.1 矩陣的乘法不符合交換律，A x B != B x A。
5.2 矩陣的乘法知足結合律,(A x B) x C = A x (B x C)。
5.3 單位矩陣 就像天然數的單位1，單位矩陣上對角線的數值都是1。AxI = IxA =A （I是單位矩陣）。 6.逆和轉置 矩陣的逆：一個n階方陣A稱爲可逆的，或非奇異的，若是存在一個n階方陣B，使得AB=BA=E，則稱B是A的一個逆矩陣。A的逆矩陣記做A-1。類比天然數就是逆就是倒數，2的倒數是1/2，它們相乘得1.矩陣A和矩陣A的逆相乘獲得單位矩陣E 矩陣的轉置：將A的全部元素繞着一條從第1行第1列元素出發的右下方45度的射線做鏡面反轉，即獲得A的轉置。簡單來講就是矩陣的行列互換就是矩陣的轉置，A是一個mxn的矩陣，行列互換爲AT是一個nxm的矩陣，A和AT互爲轉置。