關於機器學習的數學基礎-高數、線性代數、機率論與數理統計

文章目錄

• 高等數學
• 線性代數
• 行列式
• 矩陣
• 向量
• 線性方程組
• 矩陣的特徵值和特徵向量
• 二次型
• 機率論和數理統計
• 隨機事件和機率
• 隨機變量及其機率分佈
• 多維隨機變量及其分佈
• 隨機變量的數字特徵
• 數理統計的基本概念

高等數學

1.導數定義：

導數和微分的概念

$f'({{x}_{0}})=\underset{\Delta x\to 0}{\mathop{\lim }}\,\frac{f({{x}_{0}}+\Delta x)-f({{x}_{0}})}{\Delta x}$ （1）

或者：

$f'({{x}_{0}})=\underset{x\to {{x}_{0}}}{\mathop{\lim }}\,\frac{f(x)-f({{x}_{0}})}{x-{{x}_{0}}}$ （2）

2.左右導數導數的幾何意義和物理意義

函數 $f(x)$在 $x_0$處的左、右導數分別定義爲：

左導數： ${{{f}'}_{-}}({{x}_{0}})=\underset{\Delta x\to {{0}^{-}}}{\mathop{\lim }}\,\frac{f({{x}_{0}}+\Delta x)-f({{x}_{0}})}{\Delta x}=\underset{x\to x_{0}^{-}}{\mathop{\lim }}\,\frac{f(x)-f({{x}_{0}})}{x-{{x}_{0}}},(x={{x}_{0}}+\Delta x)$

右導數： ${{{f}'}_{+}}({{x}_{0}})=\underset{\Delta x\to {{0}^{+}}}{\mathop{\lim }}\,\frac{f({{x}_{0}}+\Delta x)-f({{x}_{0}})}{\Delta x}=\underset{x\to x_{0}^{+}}{\mathop{\lim }}\,\frac{f(x)-f({{x}_{0}})}{x-{{x}_{0}}}$

3.函數的可導性與連續性之間的關係

Th1: 函數 $f(x)$在 $x_0$處可微 $\Leftrightarrow f(x)$在 $x_0$處可導

Th2: 若函數在點 $x_0$處可導，則 $y=f(x)$在點 $x_0$處連續，反之則不成立。即函數連續不必定可導。

Th3: ${f}'({{x}_{0}})$存在 $\Leftrightarrow {{{f}'}_{-}}({{x}_{0}})={{{f}'}_{+}}({{x}_{0}})$

4.平面曲線的切線和法線

切線方程 : $y-{{y}_{0}}=f'({{x}_{0}})(x-{{x}_{0}})$
法線方程： $y-{{y}_{0}}=-\frac{1}{f'({{x}_{0}})}(x-{{x}_{0}}),f'({{x}_{0}})\ne 0$

5.四則運算法則
設函數 $u=u(x)，v=v(x)$]在點 $x$可導則
(1) $(u\pm v{)}'={u}'\pm {v}'$ $d(u\pm v)=du\pm dv$
(2) $(uv{)}'=u{v}'+v{u}'$ $d(uv)=udv+vdu$
(3) $(\frac{u}{v}{)}'=\frac{v{u}'-u{v}'}{{{v}^{2}}}(v\ne 0)$ $d(\frac{u}{v})=\frac{vdu-udv}{{{v}^{2}}}$

6.基本導數與微分表
(1) $y=c$（常數） ${y}'=0$ $dy=0$
(2) $y={{x}^{\alpha }}$($\alpha $爲實數) ${y}'=\alpha {{x}^{\alpha -1}}$ $dy=\alpha {{x}^{\alpha -1}}dx$
(3) $y={{a}^{x}}$ ${y}'={{a}^{x}}\ln a$ $dy={{a}^{x}}\ln adx$
特例: $({{{e}}^{x}}{)}'={{{e}}^{x}}$ $d({{{e}}^{x}})={{{e}}^{x}}dx$

(4) ${y}'=\frac{1}{x\ln a}$

$dy=\frac{1}{x\ln a}dx$
特例: $y=\ln x$ $(\ln x{)}'=\frac{1}{x}$ $d(\ln x)=\frac{1}{x}dx$

(5) $y=\sin x$

${y}'=\cos x$ $d(\sin x)=\cos xdx$

(6) $y=\cos x$

${y}'=-\sin x$ $d(\cos x)=-\sin xdx$

(7) $y=\tan x$

${y}'=\frac{1}{{{\cos }^{2}}x}={{\sec }^{2}}x$ $d(\tan x)={{\sec }^{2}}xdx$
(8) $y=\cot x$ ${y}'=-\frac{1}{{{\sin }^{2}}x}=-{{\csc }^{2}}x$ $d(\cot x)=-{{\csc }^{2}}xdx$
(9) $y=\sec x$ ${y}'=\sec x\tan x$

$d(\sec x)=\sec x\tan xdx$
(10) $y=\csc x$ ${y}'=-\csc x\cot x$

$d(\csc x)=-\csc x\cot xdx$
(11) $y=\arcsin x$

${y}'=\frac{1}{\sqrt{1-{{x}^{2}}}}$

$d(\arcsin x)=\frac{1}{\sqrt{1-{{x}^{2}}}}dx$
(12) $y=\arccos x$

${y}'=-\frac{1}{\sqrt{1-{{x}^{2}}}}$ $d(\arccos x)=-\frac{1}{\sqrt{1-{{x}^{2}}}}dx$

(13) $y=\arctan x$

${y}'=\frac{1}{1+{{x}^{2}}}$ $d(\arctan x)=\frac{1}{1+{{x}^{2}}}dx$

(14) $y=\operatorname{arc}\cot x$

${y}'=-\frac{1}{1+{{x}^{2}}}$

$d(\operatorname{arc}\cot x)=-\frac{1}{1+{{x}^{2}}}dx$
(15) $y=shx$

${y}'=chx$ $d(shx)=chxdx$

(16) $y=chx$

${y}'=shx$ $d(chx)=shxdx$

7.複合函數，反函數，隱函數以及參數方程所肯定的函數的微分法

(1) 反函數的運算法則: 設 $y=f(x)$在點 $x$的某鄰域內單調連續，在點 $x$處可導且 ${f}'(x)\ne 0$，則其反函數在點 $x$所對應的 $y$處可導，而且有 $\frac{dy}{dx}=\frac{1}{\frac{dx}{dy}}$
(2) 複合函數的運算法則:若 $\mu =\varphi (x)$在點 $x$可導,而 $y=f(\mu )$在對應點 $\mu$( $\mu =\varphi (x)$) 可導,則複合函數 $y=f(\varphi (x))$ 在點 $x$可導,且 ${y}'={f}'(\mu )\cdot {\varphi }'(x)$
(3) 隱函數導數 $\frac{dy}{dx}$的求法通常有三種方法：
1)方程兩邊對 $x$求導，要記住 $y$是 $x$的函數，則 $y$的函數是 $x$的複合函數.例如 $\frac{1}{y}$， ${{y}^{2}}$， $ln y$， ${{{e}}^{y}}$等均是 $x$的複合函數.
對 $x$求導應按複合函數連鎖法則作.
2)公式法.由 $F(x,y)=0$知 $\frac{dy}{dx}=-\frac{{{{{F}'}}_{x}}(x,y)}{{{{{F}'}}_{y}}(x,y)}$,其中， ${{{F}'}_{x}}(x,y)$，
${{{F}'}_{y}}(x,y)$分別表示 $F(x,y)$對 $x$和 $y$的偏導數
3)利用微分形式不變性

8.經常使用高階導數公式

（1） $({{a}^{x}}){{\,}^{(n)}}={{a}^{x}}{{\ln }^{n}}a\quad (a>{0})\quad \quad ({{{e}}^{x}}){{\,}^{(n)}}={e}{{\,}^{x}}$
（2） $(\sin kx{)}{{\,}^{(n)}}={{k}^{n}}\sin (kx+n\cdot \frac{\pi }{{2}})$
（3） $(\cos kx{)}{{\,}^{(n)}}={{k}^{n}}\cos (kx+n\cdot \frac{\pi }{{2}})$
（4） $({{x}^{m}}){{\,}^{(n)}}=m(m-1)\cdots (m-n+1){{x}^{m-n}}$
（5） $(\ln x){{\,}^{(n)}}={{(-{1})}^{(n-{1})}}\frac{(n-{1})!}{{{x}^{n}}}$
（6）萊布尼茲公式：若 $u(x)\,,v(x)$均 $n$階可導，則
${{(uv)}^{(n)}}=\sum\limits_{i={0}}^{n}{c_{n}^{i}{{u}^{(i)}}{{v}^{(n-i)}}}$，其中 ${{u}^{({0})}}=u$， ${{v}^{({0})}}=v$

9.微分中值定理，泰勒公式

Th1:(費馬定理)

若函數 $f(x)$知足條件：
(1)函數 $f(x)$在 ${{x}_{0}}$的某鄰域內有定義，而且在此鄰域內恆有
$f(x)\le f({{x}_{0}})$或 $f(x)\ge f({{x}_{0}})$,

(2) $f(x)$在 ${{x}_{0}}$處可導,則有 ${f}'({{x}_{0}})=0$

Th2:(羅爾定理)

設函數 $f(x)$知足條件：
(1)在閉區間 $[a,b]$上連續；

(2)在 $(a,b)$內可導；

(3) $f(a)=f(b)$；

則在 $(a,b)$內一存在個$\xi $，使 ${f}'(\xi )=0$
Th3: (拉格朗日中值定理)

設函數 $f(x)$知足條件：
(1)在 $[a,b]$上連續；

(2)在 $(a,b)$內可導；

則在 $(a,b)$內一存在個$\xi $，使 $\frac{f(b)-f(a)}{b-a}={f}'(\xi )$

Th4: (柯西中值定理)

設函數 $f(x)$， $g(x)$知足條件：
(1) 在 $[a,b]$上連續；

(2) 在 $(a,b)$內可導且 ${f}'(x)$， ${g}'(x)$均存在，且 ${g}'(x)\ne 0$

則在 $(a,b)$內存在一個$\xi $，使 $\frac{f(b)-f(a)}{g(b)-g(a)}=\frac{{f}'(\xi )}{{g}'(\xi )}$

10.洛必達法則
法則Ⅰ ( $\frac{0}{0}$型)
設函數 $f\left( x \right),g\left( x \right)$知足條件：
$\underset{x\to {{x}_{0}}}{\mathop{\lim }}\,f\left( x \right)=0,\underset{x\to {{x}_{0}}}{\mathop{\lim }}\,g\left( x \right)=0$;

$f\left( x \right),g\left( x \right)$在 ${{x}_{0}}$的鄰域內可導，(在 ${{x}_{0}}$處可除外)且 ${g}'\left( x \right)\ne 0$;

$\underset{x\to {{x}_{0}}}{\mathop{\lim }}\,\frac{{f}'\left( x \right)}{{g}'\left( x \right)}$存在(或$\infty $)。

則:
$\underset{x\to {{x}_{0}}}{\mathop{\lim }}\,\frac{f\left( x \right)}{g\left( x \right)}=\underset{x\to {{x}_{0}}}{\mathop{\lim }}\,\frac{{f}'\left( x \right)}{{g}'\left( x \right)}$。
法則 ${{I}'}$ ( $\frac{0}{0}$型)設函數 $f\left( x \right),g\left( x \right)$知足條件：
$\underset{x\to \infty }{\mathop{\lim }}\,f\left( x \right)=0,\underset{x\to \infty }{\mathop{\lim }}\,g\left( x \right)=0$;

存在一個 $X>0$,當 $\left| x \right|>X$時, $f\left( x \right),g\left( x \right)$可導,且 ${g}'\left( x \right)\ne 0$; $\underset{x\to {{x}_{0}}}{\mathop{\lim }}\,\frac{{f}'\left( x \right)}{{g}'\left( x \right)}$存在(或 $\infty$)。

則:
$\underset{x\to {{x}_{0}}}{\mathop{\lim }}\,\frac{f\left( x \right)}{g\left( x \right)}=\underset{x\to {{x}_{0}}}{\mathop{\lim }}\,\frac{{f}'\left( x \right)}{{g}'\left( x \right)}$
法則Ⅱ( $\frac{\infty }{\infty }$型) 設函數 $f\left( x \right),g\left( x \right)$知足條件：
$\underset{x\to {{x}_{0}}}{\mathop{\lim }}\,f\left( x \right)=\infty ,\underset{x\to {{x}_{0}}}{\mathop{\lim }}\,g\left( x \right)=\infty$; $f\left( x \right),g\left( x \right)$在 ${{x}_{0}}$ 的鄰域內可導(在 ${{x}_{0}}$處可除外)且 ${g}'\left( x \right)\ne 0$; $\underset{x\to {{x}_{0}}}{\mathop{\lim }}\,\frac{{f}'\left( x \right)}{{g}'\left( x \right)}$存在(或 $\infty$)。則
$\underset{x\to {{x}_{0}}}{\mathop{\lim }}\,\frac{f\left( x \right)}{g\left( x \right)}=\underset{x\to {{x}_{0}}}{\mathop{\lim }}\,\frac{{f}'\left( x \right)}{{g}'\left( x \right)}.$同理法則 ${I{I}'}$( $\frac{\infty }{\infty }$型)仿法則 ${{I}'}$可寫出。

11.泰勒公式

設函數 $f(x)$在點 ${{x}_{0}}$處的某鄰域內具備 $n+1$階導數，則對該鄰域內異於 ${{x}_{0}}$的任意點 $x$，在 ${{x}_{0}}$與 $x$之間至少存在
一個$\xi $，使得：
$f(x)=f({{x}_{0}})+{f}'({{x}_{0}})(x-{{x}_{0}})+\frac{1}{2!}{f}''({{x}_{0}}){{(x-{{x}_{0}})}^{2}}+\cdots$
$+\frac{{{f}^{(n)}}({{x}_{0}})}{n!}{{(x-{{x}_{0}})}^{n}}+{{R}_{n}}(x)$
其中 ${{R}_{n}}(x)=\frac{{{f}^{(n+1)}}(\xi )}{(n+1)!}{{(x-{{x}_{0}})}^{n+1}}$稱爲 $f(x)$在點 ${{x}_{0}}$處的 $n$階泰勒餘項。

令 ${{x}_{0}}=0$，則 $n$階泰勒公式
$f(x)=f(0)+{f}'(0)x+\frac{1}{2!}{f}''(0){{x}^{2}}+\cdots +\frac{{{f}^{(n)}}(0)}{n!}{{x}^{n}}+{{R}_{n}}(x)$……(1)
其中 ${{R}_{n}}(x)=\frac{{{f}^{(n+1)}}(\xi )}{(n+1)!}{{x}^{n+1}}$，$\xi $在0與$x$之間.(1)式稱爲麥克勞林公式

經常使用五種函數在 ${{x}_{0}}=0$處的泰勒公式

(1) ${{{e}}^{x}}=1+x+\frac{1}{2!}{{x}^{2}}+\cdots +\frac{1}{n!}{{x}^{n}}+\frac{{{x}^{n+1}}}{(n+1)!}{{e}^{\xi }}$

或 $=1+x+\frac{1}{2!}{{x}^{2}}+\cdots +\frac{1}{n!}{{x}^{n}}+o({{x}^{n}})$

(2) $\sin x=x-\frac{1}{3!}{{x}^{3}}+\cdots +\frac{{{x}^{n}}}{n!}\sin \frac{n\pi }{2}+\frac{{{x}^{n+1}}}{(n+1)!}\sin (\xi +\frac{n+1}{2}\pi )$

或 $=x-\frac{1}{3!}{{x}^{3}}+\cdots +\frac{{{x}^{n}}}{n!}\sin \frac{n\pi }{2}+o({{x}^{n}})$

(3) $\cos x=1-\frac{1}{2!}{{x}^{2}}+\cdots +\frac{{{x}^{n}}}{n!}\cos \frac{n\pi }{2}+\frac{{{x}^{n+1}}}{(n+1)!}\cos (\xi +\frac{n+1}{2}\pi )$

或 $=1-\frac{1}{2!}{{x}^{2}}+\cdots +\frac{{{x}^{n}}}{n!}\cos \frac{n\pi }{2}+o({{x}^{n}})$

(4) $\ln (1+x)=x-\frac{1}{2}{{x}^{2}}+\frac{1}{3}{{x}^{3}}-\cdots +{{(-1)}^{n-1}}\frac{{{x}^{n}}}{n}+\frac{{{(-1)}^{n}}{{x}^{n+1}}}{(n+1){{(1+\xi )}^{n+1}}}$

或 $=x-\frac{1}{2}{{x}^{2}}+\frac{1}{3}{{x}^{3}}-\cdots +{{(-1)}^{n-1}}\frac{{{x}^{n}}}{n}+o({{x}^{n}})$

(5) ${{(1+x)}^{m}}=1+mx+\frac{m(m-1)}{2!}{{x}^{2}}+\cdots +\frac{m(m-1)\cdots (m-n+1)}{n!}{{x}^{n}}$
$+\frac{m(m-1)\cdots (m-n+1)}{(n+1)!}{{x}^{n+1}}{{(1+\xi )}^{m-n-1}}$

或 ${{(1+x)}^{m}}=1+mx+\frac{m(m-1)}{2!}{{x}^{2}}+\cdots$ $+\frac{m(m-1)\cdots (m-n+1)}{n!}{{x}^{n}}+o({{x}^{n}})$

12.函數單調性的判斷
Th1: 設函數 $f(x)$在 $(a,b)$區間內可導，若是對 $\forall x\in (a,b)$，都有 $f\,'(x)>0$（或 $f\,'(x)<0$），則函數 $f(x)$在 $(a,b)$內是單調增長的（或單調減小）

Th2: （取極值的必要條件）設函數 $f(x)$在 ${{x}_{0}}$處可導，且在 ${{x}_{0}}$處取極值，則 $f\,'({{x}_{0}})=0$。

Th3: （取極值的第一充分條件）設函數 $f(x)$在 ${{x}_{0}}$的某一鄰域內可微，且 $f\,'({{x}_{0}})=0$（或 $f(x)$在 ${{x}_{0}}$處連續，但 $f\,'({{x}_{0}})$不存在。）
(1)若當 $x$通過 ${{x}_{0}}$時， $f\,'(x)$由「+」變「-」，則 $f({{x}_{0}})$爲極大值；
(2)若當 $x​$通過 ${{x}_{0}}​$時， $f\,'(x)$由「-」變「+」，則 $f({{x}_{0}})$爲極小值；
(3)若 $f\,'(x)$通過 $x={{x}_{0}}$的兩側不變號，則 $f({{x}_{0}})$不是極值。

Th4: (取極值的第二充分條件)設 $f(x)$在點 ${{x}_{0}}$處有 $f''(x)\ne 0$，且 $f\,'({{x}_{0}})=0$，則 當 $f'\,'({{x}_{0}})<0$時， $f({{x}_{0}})$爲極大值；
當 $f'\,'({{x}_{0}})>0$時， $f({{x}_{0}})$爲極小值。
注：若是 $f'\,'({{x}_{0}})<0$，此方法失效。

13.漸近線的求法
(1)水平漸近線 若 $\underset{x\to +\infty }{\mathop{\lim }}\,f(x)=b$，或 $\underset{x\to -\infty }{\mathop{\lim }}\,f(x)=b$，則

$y=b$稱爲函數 $y=f(x)$的水平漸近線。

(2)鉛直漸近線 若 $\underset{x\to x_{0}^{-}}{\mathop{\lim }}\,f(x)=\infty$，或 $\underset{x\to x_{0}^{+}}{\mathop{\lim }}\,f(x)=\infty$，則

$x={{x}_{0}}$稱爲 $y=f(x)$的鉛直漸近線。

(3)斜漸近線 若 $a=\underset{x\to \infty }{\mathop{\lim }}\,\frac{f(x)}{x},\quad b=\underset{x\to \infty }{\mathop{\lim }}\,[f(x)-ax]$，則
$y=ax+b$稱爲 $y=f(x)$的斜漸近線。

14.函數凹凸性的判斷
Th1: (凹凸性的判別定理）若在I上 $f''(x)<0$（或 $f''(x)>0$），則 $f(x)$在I上是凸的（或凹的）。

Th2: (拐點的判別定理1)若在 ${{x}_{0}}$處 $f''(x)=0$，（或 $f''(x)$不存在），當 $x$變更通過 ${{x}_{0}}$時， $f''(x)$變號，則 $({{x}_{0}},f({{x}_{0}}))$爲拐點。

Th3: (拐點的判別定理2)設 $f(x)$在 ${{x}_{0}}$點的某鄰域內有三階導數，且 $f''(x)=0$， $f'''(x)\ne 0$，則 $({{x}_{0}},f({{x}_{0}}))$爲拐點。

15.弧微分

$dS=\sqrt{1+y{{'}^{2}}}dx$

線性代數

行列式

1.行列式按行（列）展開定理

(1) 設 $A = ( a_{{ij}} )_{n \times n}$，則： $a_{i1}A_{j1} +a_{i2}A_{j2} + \cdots + a_{{in}}A_{{jn}} = \begin{cases}|A|,i=j\\ 0,i \neq j\end{cases}$

或 $a_{1i}A_{1j} + a_{2i}A_{2j} + \cdots + a_{{ni}}A_{{nj}} = \begin{cases}|A|,i=j\\ 0,i \neq j\end{cases}$即 $AA^{*} = A^{*}A = \left| A \right|E,$其中： $A^{*} = \begin{pmatrix} A_{11} & A_{12} & \ldots & A_{1n} \\ A_{21} & A_{22} & \ldots & A_{2n} \\ \ldots & \ldots & \ldots & \ldots \\ A_{n1} & A_{n2} & \ldots & A_{{nn}} \\ \end{pmatrix} = (A_{{ji}}) = {(A_{{ij}})}^{T}$

$D_{n} = \begin{vmatrix} 1 & 1 & \ldots & 1 \\ x_{1} & x_{2} & \ldots & x_{n} \\ \ldots & \ldots & \ldots & \ldots \\ x_{1}^{n - 1} & x_{2}^{n - 1} & \ldots & x_{n}^{n - 1} \\ \end{vmatrix} = \prod_{1 \leq j < i \leq n}^{}\,(x_{i} - x_{j})$

(2) 設 $A,B$爲 $n$階方陣，則 $\left| {AB} \right| = \left| A \right|\left| B \right| = \left| B \right|\left| A \right| = \left| {BA} \right|$，但 $\left| A \pm B \right| = \left| A \right| \pm \left| B \right|$不必定成立。

(3) $\left| {kA} \right| = k^{n}\left| A \right|$, $A$爲 $n$階方陣。

(4) 設 $A$爲 $n$階方陣， $|A^{T}| = |A|;|A^{- 1}| = |A|^{- 1}$（若 $A$可逆）， $|A^{*}| = |A|^{n - 1}$

$n \geq 2$

(5) $\left| \begin{matrix} & {A\quad O} \\ & {O\quad B} \\ \end{matrix} \right| = \left| \begin{matrix} & {A\quad C} \\ & {O\quad B} \\ \end{matrix} \right| = \left| \begin{matrix} & {A\quad O} \\ & {C\quad B} \\ \end{matrix} \right| =| A||B|$
， $A,B$爲方陣，但 $\left| \begin{matrix} {O} & A_{m \times m} \\ B_{n \times n} & { O} \\ \end{matrix} \right| = ({- 1)}^{{mn}}|A||B|$ 。

(6) 範德蒙行列式 $D_{n} = \begin{vmatrix} 1 & 1 & \ldots & 1 \\ x_{1} & x_{2} & \ldots & x_{n} \\ \ldots & \ldots & \ldots & \ldots \\ x_{1}^{n - 1} & x_{2}^{n 1} & \ldots & x_{n}^{n - 1} \\ \end{vmatrix} = \prod_{1 \leq j < i \leq n}^{}\,(x_{i} - x_{j})$

設 $A$是 $n$階方陣， $\lambda_{i}(i = 1,2\cdots,n)$是 $A$的 $n$個特徵值，則
$|A| = \prod_{i = 1}^{n}\lambda_{i}​$

矩陣

矩陣： $m \times n$個數 $a_{{ij}}$排成 $m$行 $n$列的表格 $\begin{bmatrix} a_{11}\quad a_{12}\quad\cdots\quad a_{1n} \\ a_{21}\quad a_{22}\quad\cdots\quad a_{2n} \\ \quad\cdots\cdots\cdots\cdots\cdots \\ a_{m1}\quad a_{m2}\quad\cdots\quad a_{{mn}} \\ \end{bmatrix}$ 稱爲矩陣，簡記爲 $A$，或者 $\left( a_{{ij}} \right)_{m \times n}$ 。若 $m = n$，則稱 $A$是 $n$階矩陣或 $n$階方陣。

矩陣的線性運算

1.矩陣的加法

設 $A = (a_{{ij}}),B = (b_{{ij}})$是兩個 $m \times n$矩陣，則 $m \times n$ 矩陣 $C = c_{{ij}}) = a_{{ij}} + b_{{ij}}$稱爲矩陣 $A$與 $B$的和，記爲 $A + B = C$ 。

2.矩陣的數乘

設 $A = (a_{{ij}})$是 $m \times n$矩陣， $k$是一個常數，則 $m \times n$矩陣 $(ka_{{ij}})$稱爲數 $k$與矩陣 $A$的數乘，記爲 ${kA}$。

3.矩陣的乘法

設 $A = (a_{{ij}})$是 $m \times n$矩陣， $B = (b_{{ij}})$是 $n \times s$矩陣，那麼 $m \times s$矩陣 $C = (c_{{ij}})$，其中 $c_{{ij}} = a_{i1}b_{1j} + a_{i2}b_{2j} + \cdots + a_{{in}}b_{{nj}} = \sum_{k =1}^{n}{a_{{ik}}b_{{kj}}}$稱爲 ${AB}$的乘積，記爲 $C = AB$ 。

4. $\mathbf{A}^{\mathbf{T}}$、 $\mathbf{A}^{\mathbf{-1}}$、 $\mathbf{A}^{\mathbf{*}}$三者之間的關係

(1) ${(A^{T})}^{T} = A,{(AB)}^{T} = B^{T}A^{T},{(kA)}^{T} = kA^{T},{(A \pm B)}^{T} = A^{T} \pm B^{T}$

(2) $\left( A^{- 1} \right)^{- 1} = A,\left( {AB} \right)^{- 1} = B^{- 1}A^{- 1},\left( {kA} \right)^{- 1} = \frac{1}{k}A^{- 1},$

但 ${(A \pm B)}^{- 1} = A^{- 1} \pm B^{- 1}$不必定成立。

(3) $\left( A^{*} \right)^{*} = |A|^{n - 2}\ A\ \ (n \geq 3)$， $\left({AB} \right)^{*} = B^{*}A^{*},$ $\left( {kA} \right)^{*} = k^{n -1}A^{*}{\ \ }\left( n \geq 2 \right)$

但 $\left( A \pm B \right)^{*} = A^{*} \pm B^{*}$不必定成立。

(4) ${(A^{- 1})}^{T} = {(A^{T})}^{- 1},\ \left( A^{- 1} \right)^{*} ={(AA^{*})}^{- 1},{(A^{*})}^{T} = \left( A^{T} \right)^{*}$

5.有關 $\mathbf{A}^{\mathbf{*}}$的結論

(1) $AA^{*} = A^{*}A = |A|E$

(2) $|A^{*}| = |A|^{n - 1}\ (n \geq 2),\ \ \ \ {(kA)}^{*} = k^{n -1}A^{*},{{\ \ }\left( A^{*} \right)}^{*} = |A|^{n - 2}A(n \geq 3)$

(3) 若 $A$可逆，則 $A^{*} = |A|A^{- 1},{(A^{*})}^{*} = \frac{1}{|A|}A$

(4) 若 $A​$爲 $n​$階方陣，則：

$r(A^*)=\begin{cases}n,\quad r(A)=n\\ 1,\quad r(A)=n-1\\ 0,\quad r(A)<n-1\end{cases}$

6.有關 $\mathbf{A}^{\mathbf{- 1}}$的結論

$A$可逆 $\Leftrightarrow AB = E; \Leftrightarrow |A| \neq 0; \Leftrightarrow r(A) = n;$

$\Leftrightarrow A$能夠表示爲初等矩陣的乘積； $\Leftrightarrow A;\Leftrightarrow Ax = 0$。

7.有關矩陣秩的結論

(1) 秩 $r(A)$=行秩=列秩；

(2) $r(A_{m \times n}) \leq \min(m,n);$

(3) $A \neq 0 \Rightarrow r(A) \geq 1$；

(4) $r(A \pm B) \leq r(A) + r(B);$

(5) 初等變換不改變矩陣的秩

(6) $r(A) + r(B) - n \leq r(AB) \leq \min(r(A),r(B)),$特別若 $AB = O$
則： $r(A) + r(B) \leq n$

(7) 若 $A^{- 1}$存在 $\Rightarrow r(AB) = r(B);$ 若 $B^{- 1}$存在
$\Rightarrow r(AB) = r(A);$

若 $r(A_{m \times n}) = n \Rightarrow r(AB) = r(B);$ 若 $r(A_{m \times s}) = n\Rightarrow r(AB) = r\left( A \right)$。

(8) $r(A_{m \times s}) = n \Leftrightarrow Ax = 0$只有零解

8.分塊求逆公式

$\begin{pmatrix} A & O \\ O & B \\ \end{pmatrix}^{- 1} = \begin{pmatrix} A^{-1} & O \\ O & B^{- 1} \\ \end{pmatrix}$； ${\left(\begin{array}{cc}A& C\\ O& B\end{array}\right)}^{-1}=(\begin{array}{c}{A}^{-1}\end{array}$