【讀書筆記】機率論與數理統計（中）

做者：LogM

本文原載於 https://segmentfault.com/u/logm/articles，不容許轉載~

文章中的數學公式若沒法正確顯示，請參見：正確顯示數學公式的小技巧

本文爲機率論與數理統計的筆記。

---

8. 第八週

• 8.1 指望

  • 離散型：$E(X) = \sum_{k=1}^{+\infty} x_k p_k$
  • 連續型：$E(X) = \int_{-\infty}^{+\infty} xf(x)dx$

  • 若 $Y = g(X)$，則：

    • 離散型：$E(Y) = E(g(X)) = \sum_{k=1}^{+\infty} g(x_k)p_k$
    • 連續型：$E(Y) = E(g(X)) = \int_{-\infty}^{+\infty} g(x_k)p_k$

  • 若 $Z = h(X,Y)$，則

    • 二元離散型：$E(Z) = E(h(X,Y)) = \sum_{k=1}^{+\infty} h(x_i,y_j)p(x_i,y_j)$
    • 二元連續型：$E(Z) = E(h(X,Y)) = \int_{-\infty}^{+\infty} \int_{-\infty}^{+\infty} h(x,y)f(x,y)dxdy$

  • 性質：

    • $E(cX) = cE(X)$，$c$ 爲常數
    • $E(X+Y) = E(X) + E(Y)$
    • $E(XY) = E(X)E(Y)$，當 $X$ 與 $Y$ 相互獨立

• 8.2 方差

  • 方差：$D(X) = Var(X) = E\{[X-E(X)]^2\}$
  • 標準差（均方差）：$\sigma(X) = \sqrt{D(X)}$
  • 離散型：$D(X) = \sum_{i=1}^{+\infty} [x_i - E(X)]^2 p_i$
  • 連續型：$D(X) = \int_{-\infty}^{+\infty} [x-E(x)]^2 f(x)dx$

  • 性質：

    • $D(X) = E(X^2)-[E(X)]^2$
    • $D(cX) = c^2D(X)$，$c$ 爲常數
    • $D(X+Y) = D(X) + D(Y) + 2E\{[X-E(X)][Y-E(Y)]\}$
    • $D(X+Y) = D(X) + D(Y)$，當 $X$ 與 $Y$ 相互獨立

---

9. 第九周

• 9.1 協方差

  • $Cov(X,Y) = E\{[X-E(X)][Y-E(Y)]\} = E(XY)-E(X)E(Y)$
  • 正相關：$Cov(X,Y)>0$；負相關：$Cov(X,Y)<0$；不相關：$Cov(X,Y)=0$

  • 性質：

    • $Cov(X,X) = D(X)$
    • $Cov(aX,bY) = ab \cdot Cov(X,Y)$
    • $Cov(X_1+X_2,Y) = Cov(X_1,Y) + Cov(X_2,Y)$

• 9.2 相關係數

  • $\rho_{XY} = \frac{Cov(X,Y)}{\sqrt{D(X)D(Y)}} \in [-1,1]$，沒有量綱$
  • $X$ 與 $Y$ 獨立，則它們確定不相關；但不相關不必定是相互獨立

  • 不相關指的是線性關係上不相關；相互獨立指的是通常關係上的獨立

  • 正態分佈是特例，兩個正態分佈的不相關就表明它們相互獨立

• 9.3 矩

  • $k$ 階原點矩：$E(X^k)$
  • $k$ 階中心矩：$E\{[X-E(X)]^k\}$
  • $k+l$ 階混合原點矩：$E(X^k Y^l)$
  • $k+l$ 階混合中心矩：$E\{[X-E(X)]^k[Y-E(Y)]^l\}$
• 9.4 協方差矩陣

• 9.5 $n$元正態隨機變量

  • 性質：

    • 它的每個份量，每個子向量都服從正態分佈
    • 充要條件：各份量任意線性組合後仍服從正態分佈
    • 通過線性變換後依然知足正態分佈

---

10. 第十週

• 10.1 切比雪夫不等式
• 10.2 大數定律

• 10.3 中心極限定理

  • 由大量的相互獨立的隨機變量綜合而成的分佈近似服從正態分佈