機器學習的數學基礎-（1、高等數學）（轉）

時間 2019-12-06

標籤機器學習數學基礎高等數學欄目應用數學简体版

原文原文鏈接

1、高等數學

1.導數定義：算法

導數和微分的概念函數

$f'({{x}_{0}})=\underset{\Delta x\to 0}{\mathop{\lim }}\,\frac{f({{x}_{0}}+\Delta x)-f({{x}_{0}})}{\Delta x}$ （1）.net

或者：3d

$f'({{x}_{0}})=\underset{\Delta x\to 0}{\mathop{\lim }}\,\frac{f({{x}_{0}}+\Delta x)-f({{x}_{0}})}{\Delta x}$ （2）內存

2.左右導數導數的幾何意義和物理意義數學

函數在處的左、右導數分別定義爲：it

左導數： ${{{f}'}_{-}}({{x}_{0}})=\underset{\Delta x\to {{0}^{-}}}{\mathop{\lim }}\,\frac{f({{x}_{0}}+\Delta x)-f({{x}_{0}})}{\Delta x}=\underset{x\to x_{0}^{-}}{\mathop{\lim }}\,\frac{f(x)-f({{x}_{0}})}{x-{{x}_{0}}},(x={{x}_{0}}+\Delta x)$ bfc

右導數： ${{{f}'}_{+}}({{x}_{0}})=\underset{\Delta x\to {{0}^{+}}}{\mathop{\lim }}\,\frac{f({{x}_{0}}+\Delta x)-f({{x}_{0}})}{\Delta x}=\underset{x\to x_{0}^{+}}{\mathop{\lim }}\,\frac{f(x)-f({{x}_{0}})}{x-{{x}_{0}}}$ 方法

3.函數的可導性與連續性之間的關係im

Th1: 函數在處可微 $\Leftrightarrow f(x)$ 在處可導

Th2: 若函數在點處可導，則在點處連續，反之則不成立。即函數連續不必定可導。

Th3: ${f}'({{x}_{0}})$ 存在 $\Leftrightarrow {{{f}'}_{-}}({{x}_{0}})={{{f}'}_{+}}({{x}_{0}})$

4.平面曲線的切線和法線

切線方程 : $y-{{y}_{0}}=f'({{x}_{0}})(x-{{x}_{0}})$ 法線方程： $y-{{y}_{0}}=-\frac{1}{f'({{x}_{0}})}(x-{{x}_{0}}),f'({{x}_{0}})\ne 0$

5.四則運算法則
設函數在點可導則
(1) $(u\pm v{)}'={u}'\pm {v}'$ $d(u\pm v)=du\pm dv$
(2)
(3) $(\frac{u}{v}{)}'=\frac{v{u}'-u{v}'}{{{v}^{2}}}(v\ne 0)$ $d(\frac{u}{v})=\frac{vdu-udv}{{{v}^{2}}}$

6.基本導數與微分表
(1) （常數）

，
(2) $y={{x}^{\alpha }}$ ( $\alpha$ 爲實數)

${y}'=\alpha {{x}^{\alpha -1}}$ ， $dy=\alpha {{x}^{\alpha -1}}dx$
(3) $y={{a}^{x}}$

${y}'={{a}^{x}}\ln a$ ， $dy={{a}^{x}}\ln adx$
特例: $({{{e}}^{x}}{)}'={{{e}}^{x}}$ ， $d({{{e}}^{x}})={{{e}}^{x}}dx$

(4) ${y}'=\frac{1}{x\ln a}$

$dy=\frac{1}{x\ln a}dx$
特例: $y=\ln x$ ， $(\ln x{)}'=\frac{1}{x}$ ， $d(\ln x)=\frac{1}{x}dx$

(5) $y=\sin x$

${y}'=\cos x$ ， $d(\sin x)=\cos xdx$ ， $y=\cos x$

(6) $y=\cos x$

${y}'=-\sin x$ ， $d(\cos x)=-\sin xdx$

(7) $y=\tan x$

${y}'=\frac{1}{{{\cos }^{2}}x}={{\sec }^{2}}x$ ， $d(\tan x)={{\sec }^{2}}xdx$
(8) $y=\cot x$

${y}'=-\frac{1}{{{\sin }^{2}}x}=-{{\csc }^{2}}x$ ， $d(\cot x)=-{{\csc }^{2}}xdx$
(9) $y=\sec x$

${y}'=\sec x\tan x$ ， $d(\sec x)=\sec x\tan xdx$
(10) $y=\csc x$

${y}'=-\csc x\cot x$ ， $d(\csc x)=-\csc x\cot xdx$
(11) $y=\arcsin x$

${y}'=\frac{1}{\sqrt{1-{{x}^{2}}}}$ ， $d(\arcsin x)=\frac{1}{\sqrt{1-{{x}^{2}}}}dx$
(12) $y=\arccos x$

${y}'=-\frac{1}{\sqrt{1-{{x}^{2}}}}$ ， $d(\arccos x)=-\frac{1}{\sqrt{1-{{x}^{2}}}}dx$

(13) $y=\arctan x$

${y}'=\frac{1}{1+{{x}^{2}}}$ ， $d(\arctan x)=\frac{1}{1+{{x}^{2}}}dx$

(14) $y=\operatorname{arc}\cot x$

${y}'=-\frac{1}{1+{{x}^{2}}}$ ， $d(\operatorname{arc}\cot x)=-\frac{1}{1+{{x}^{2}}}dx$
(15)

，

(16)

，

7.複合函數，反函數，隱函數以及參數方程所肯定的函數的微分法

(1) 反函數的運算法則: 設  在點  的某鄰域內單調連續，在點  處可導且 ${f}'(x)\ne 0$ ，則其反函數在點  所對應的  處可導，而且有 $\frac{dy}{dx}=\frac{1}{\frac{dx}{dy}}$
(2) 複合函數的運算法則:若 $\mu =\varphi (x)$ 在點  可導,而 $y=f(\mu )$ 在對應點 $\mu$ ( $\mu =\varphi (x)$ )可導,則複合函數 $y=f(\varphi (x))$ 在點  可導,且 ${y}'={f}'(\mu )\cdot {\varphi }'(x)$
(3) 隱函數導數 $\frac{dy}{dx}$ 的求法通常有三種方法：
1)方程兩邊對  求導，要記住  是  的函數，則  的函數是  的複合函數。

例如 $\frac{1}{y}$ ， ${{y}^{2}}$ ，  ， ${{{e}}^{y}}$ 等均是  的複合函數。
對  求導應按複合函數連鎖法則作。
2)公式法：由  知 $\frac{dy}{dx}=-\frac{{{{{F}'}}_{x}}(x,y)}{{{{{F}'}}_{y}}(x,y)}$ ,其中， ${{{F}'}_{x}}(x,y)$ ， ${{{F}'}_{y}}(x,y)$ 分別表示  對  和  的偏導數
3)利用微分形式不變性

8.經常使用高階導數公式

（1） $({{a}^{x}}){{\,}^{(n)}}={{a}^{x}}{{\ln }^{n}}a\quad (a>{0})\quad \quad ({{{e}}^{x}}){{\,}^{(n)}}={e}{{\,}^{x}}$
（2） $(\sin kx{)}{{\,}^{(n)}}={{k}^{n}}\sin (kx+n\cdot \frac{\pi }{{2}})$
（3） $(\cos kx{)}{{\,}^{(n)}}={{k}^{n}}\cos (kx+n\cdot \frac{\pi }{{2}})$
（4） $({{x}^{m}}){{\,}^{(n)}}=m(m-1)\cdots (m-n+1){{x}^{m-n}}$
（5） $(\ln x){{\,}^{(n)}}={{(-{1})}^{(n-{1})}}\frac{(n-{1})!}{{{x}^{n}}}$
（6）萊布尼茲公式：若 $u(x)\,,v(x)$ 均階可導，則
${{(uv)}^{(n)}}=\sum\limits_{i={0}}^{n}{c_{n}^{i}{{u}^{(i)}}{{v}^{(n-i)}}}$ ，其中 ${{u}^{({0})}}=u$ ， ${{v}^{({0})}}=v$

9.微分中值定理，，泰勒公式

Th1:(費馬定理)

若函數知足條件：
(1)函數在 ${{x}_{0}}$ 的某鄰域內有定義，而且在此鄰域內恆有：

$f(x)\le f({{x}_{0}})$ 或 $f(x)\ge f({{x}_{0}})$ ,

(2) 在 ${{x}_{0}}$ 處可導,則有 ${f}'({{x}_{0}})=0$

Th2:(羅爾定理)

設函數知足條件：
(1)在閉區間上連續；

(2)在內可導；

(3)

則在內存在一個 $\xi$ ，使 ${f}'(\xi )=0$

Th3: (拉格朗日中值定理)

設函數知足條件：
(1)在上連續；

(2)在內可導；

則在內存在一個 $\xi$ ，使 $\frac{f(b)-f(a)}{b-a}={f}'(\xi )$

Th4: (柯西中值定理)

設函數，知足條件：
(1) 在上連續；

(2) 在內可導且，均存在，且 ${g}'(x)\ne 0$

則在內存在一個 $\xi$ ，使 $\frac{f(b)-f(a)}{g(b)-g(a)}=\frac{{f}'(\xi )}{{g}'(\xi )}$

10.洛必達法則
法則Ⅰ ( $\frac{0}{0}$ 型)
設函數 $f\left( x \right),g\left( x \right)$ 知足條件：
$\underset{x\to {{x}_{0}}}{\mathop{\lim }}\,f\left( x \right)=0,\underset{x\to {{x}_{0}}}{\mathop{\lim }}\,g\left( x \right)=0$ ;

$f\left( x \right),g\left( x \right)$ 在 ${{x}_{0}}$ 的鄰域內可導，(在 ${{x}_{0}}$ 處可除外)且 ${g}'\left( x \right)\ne 0$ ;

$\underset{x\to {{x}_{0}}}{\mathop{\lim }}\,\frac{{f}'\left( x \right)}{{g}'\left( x \right)}$ 存在(或 $\infty$ )。

則:
$\underset{x\to {{x}_{0}}}{\mathop{\lim }}\,\frac{f\left( x \right)}{g\left( x \right)}=\underset{x\to {{x}_{0}}}{\mathop{\lim }}\,\frac{{f}'\left( x \right)}{{g}'\left( x \right)}$ 。
法則 ${{\text I}'}$ ( $\frac{0}{0}$ 型)

設函數 $f\left( x \right),g\left( x \right)$ 知足條件：
$\underset{x\to \infty }{\mathop{\lim }}\,f\left( x \right)=0,\underset{x\to \infty }{\mathop{\lim }}\,g\left( x \right)=0$ ;

存在一個 ,當 $\left| x \right|>X$ 時, $f\left( x \right),g\left( x \right)$ 可導,且 ${g}'\left( x \right)\ne 0$ ;

$\underset{x\to {{x}_{0}}}{\mathop{\lim }}\,\frac{{f}'\left( x \right)}{{g}'\left( x \right)}$ 存在(或 $\infty$ )。

設函數 $f\left( x \right),g\left( x \right)$ 知足條件：
$\underset{x\to {{x}_{0}}}{\mathop{\lim }}\,f\left( x \right)=\infty ,\underset{x\to {{x}_{0}}}{\mathop{\lim }}\,g\left( x \right)=\infty$ ; $f\left( x \right),g\left( x \right)$ 在 ${{x}_{0}}$ 的鄰域內可導(在 ${{x}_{0}}$ 處可除外)且 ${g}'\left( x \right)\ne 0$ ; $\underset{x\to {{x}_{0}}}{\mathop{\lim }}\,\frac{{f}'\left( x \right)}{{g}'\left( x \right)}$ 存在(或 $\infty$ )。

則： $\underset{x\to {{x}_{0}}}{\mathop{\lim }}\,\frac{f\left( x \right)}{g\left( x \right)}=\underset{x\to {{x}_{0}}}{\mathop{\lim }}\,\frac{{f}'\left( x \right)}{{g}'\left( x \right)}$ 。同理法則 ${\text I{\text I}'}$ ( $\frac{\infty }{\infty }$ 型)仿法則 ${{\text I}'}$ 可寫出。

11.泰勒公式

設函數在點 ${{x}_{0}}$ 處的某鄰域內具備階導數，則對該鄰域內異於 ${{x}_{0}}$ 的任意點，在 ${{x}_{0}}$ 與之間至少存在一個 $\xi$ ，使得： $f(x)=f({{x}_{0}})+{f}'({{x}_{0}})(x-{{x}_{0}})+\frac{1}{2!}{f}''({{x}_{0}}){{(x-{{x}_{0}})}^{2}}+\cdots$ $+\frac{{{f}^{(n)}}({{x}_{0}})}{n!}{{(x-{{x}_{0}})}^{n}}+{{R}_{n}}(x)$

其中 ${{R}_{n}}(x)=\frac{{{f}^{(n+1)}}(\xi )}{(n+1)!}{{(x-{{x}_{0}})}^{n+1}}$ 稱爲在點 ${{x}_{0}}$ 處的階泰勒餘項。

令 ${{x}_{0}}=0$ ，則階泰勒公式： $f(x)=f(0)+{f}'(0)x+\frac{1}{2!}{f}''(0){{x}^{2}}+\cdots +\frac{{{f}^{(n)}}(0)}{n!}{{x}^{n}}+{{R}_{n}}(x)$ ……(1)
其中 ${{R}_{n}}(x)=\frac{{{f}^{(n+1)}}(\xi )}{(n+1)!}{{x}^{n+1}}$ ， $\xi$ 在0與之間，(1)式稱爲麥克勞林公式。

經常使用五種函數在 ${{x}_{0}}=0$ 處的泰勒公式

(1) ${{{e}}^{x}}=1+x+\frac{1}{2!}{{x}^{2}}+\cdots +\frac{1}{n!}{{x}^{n}}+\frac{{{x}^{n+1}}}{(n+1)!}{{e}^{\xi }}$

或 $=1+x+\frac{1}{2!}{{x}^{2}}+\cdots +\frac{1}{n!}{{x}^{n}}+o({{x}^{n}})$

(2) $\sin x=x-\frac{1}{3!}{{x}^{3}}+\cdots +\frac{{{x}^{n}}}{n!}\sin \frac{n\pi }{2}+\frac{{{x}^{n+1}}}{(n+1)!}\sin (\xi +\frac{n+1}{2}\pi )$

或 $=x-\frac{1}{3!}{{x}^{3}}+\cdots +\frac{{{x}^{n}}}{n!}\sin \frac{n\pi }{2}+o({{x}^{n}})$

(3) $\cos x=1-\frac{1}{2!}{{x}^{2}}+\cdots +\frac{{{x}^{n}}}{n!}\cos \frac{n\pi }{2}+\frac{{{x}^{n+1}}}{(n+1)!}\cos (\xi +\frac{n+1}{2}\pi )$

或 $=1-\frac{1}{2!}{{x}^{2}}+\cdots +\frac{{{x}^{n}}}{n!}\cos \frac{n\pi }{2}+o({{x}^{n}})$

(4) $\ln (1+x)=x-\frac{1}{2}{{x}^{2}}+\frac{1}{3}{{x}^{3}}-\cdots +{{(-1)}^{n-1}}\frac{{{x}^{n}}}{n}+\frac{{{(-1)}^{n}}{{x}^{n+1}}}{(n+1){{(1+\xi )}^{n+1}}}$

或 $=x-\frac{1}{2}{{x}^{2}}+\frac{1}{3}{{x}^{3}}-\cdots +{{(-1)}^{n-1}}\frac{{{x}^{n}}}{n}+o({{x}^{n}})$

(5) ${{(1+x)}^{m}}=1+mx+\frac{m(m-1)}{2!}{{x}^{2}}+\cdots +\frac{m(m-1)\cdots (m-n+1)}{n!}{{x}^{n}}$ $+\frac{m(m-1)\cdots (m-n+1)}{(n+1)!}{{x}^{n+1}}{{(1+\xi )}^{m-n-1}}$

或 ${{(1+x)}^{m}}=1+mx+\frac{m(m-1)}{2!}{{x}^{2}}+\cdots +\frac{m(m-1)\cdots (m-n+1)}{n!}{{x}^{n}}+o({{x}^{n}})$

12.函數單調性的判斷

Th1: 設函數在區間內可導，若是對 $\forall x\in (a,b)$ ，都有 $f\,'(x)>0$ （或 $f\,'(x)<0$ ），

則函數在內是單調增長的（或單調減小）。

Th2: （取極值的必要條件）設函數在 ${{x}_{0}}$ 處可導，且在 ${{x}_{0}}$ 處取極值，

則 $f\,'({{x}_{0}})=0$ 。

Th3: （取極值的第一充分條件）設函數  在 ${{x}_{0}}$ 的某一鄰域內可微，且 $f\,'({{x}_{0}})=0$ （或  在 ${{x}_{0}}$ 處連續，但 $f\,'({{x}_{0}})$ 不存在。）
(1) 若當  通過 ${{x}_{0}}$ 時， $f\,'(x)$ 由「+」變「-」，則 $f({{x}_{0}})$ 爲極大值；
(2) 若當  通過 ${{x}_{0}}$ 時， $f\,'(x)$ 由「-」變「+」，則 $f({{x}_{0}})$ 爲極小值；
(3) 若 $f\,'(x)$ 通過 $x={{x}_{0}}$ 的兩側不變號，則 $f({{x}_{0}})$ 不是極值。

Th4: (取極值的第二充分條件)設在 ${{x}_{0}}$ 處有 $f''(x)\ne 0$ ，且 $f\,'({{x}_{0}})=0$ ，則:

當 $f'\,'({{x}_{0}})<0$ 時， $f({{x}_{0}})$ 爲極大值；
當 $f'\,'({{x}_{0}})>0$ 時， $f({{x}_{0}})$ 爲極小值。
注：若是 $f'\,'({{x}_{0}})<0$ ，此方法失效。

13.漸近線的求法
(1)水平漸近線

若 $\underset{x\to +\infty }{\mathop{\lim }}\,f(x)=b$ ，或 $\underset{x\to -\infty }{\mathop{\lim }}\,f(x)=b$ ，則

稱爲函數的水平漸近線。

(2)鉛直漸近線

若 $\underset{x\to x_{0}^{-}}{\mathop{\lim }}\,f(x)=\infty$ ，或 $\underset{x\to x_{0}^{+}}{\mathop{\lim }}\,f(x)=\infty$ ，則

$x={{x}_{0}}$ 稱爲的鉛直漸近線。

(3)斜漸近線

若 $a=\underset{x\to \infty }{\mathop{\lim }}\,\frac{f(x)}{x},\quad b=\underset{x\to \infty }{\mathop{\lim }}\,[f(x)-ax]$ ，則
稱爲的斜漸近線。

14.函數凹凸性的判斷

Th1: (凹凸性的判別定理）若在I上（或），則在I上是凸的（或凹的）。

Th2: (拐點的判別定理1)若在 ${{x}_{0}}$ 處，（或 不存在），當變更通過 ${{x}_{0}}$ 時，變號，則 $({{x}_{0}},f({{x}_{0}}))$ 爲拐點。

Th3: (拐點的判別定理2)設在 ${{x}_{0}}$ 點的某鄰域內有三階導數，且， $f'''(x)\ne 0$ ，則 $({{x}_{0}},f({{x}_{0}}))$ 爲拐點。

15.弧微分

$dS=\sqrt{1+y{{'}^{2}}}dx$

16.曲率

曲線在點處的曲率 $k=\frac{\left| y'' \right|}{{{(1+y{{'}^{2}})}^{\tfrac{3}{2}}}}$ 。
對於參數方程 $\left\{ \begin{align} & x=\varphi (t) \\ & y=\psi (t) \\ \end{align} \right.,$ $k=\frac{\left| \varphi '(t)\psi ''(t)-\varphi ''(t)\psi '(t) \right|}{{{[\varphi {{'}^{2}}(t)+\psi {{'}^{2}}(t)]}^{\tfrac{3}{2}}}}$ 。

17.曲率半徑

曲線在點處的曲率 $k(k\ne 0)$ 與曲線在點處的曲率半徑 $\rho$ 有以下關係： $\rho =\frac{1}{k}$ 。

原文地址：https://zhuanlan.zhihu.com/p/36311622