馬氏距離與歐氏距離

馬氏距離

    馬氏距離也能夠定義爲兩個服從同一分佈而且其協方差矩陣爲Σ的隨機變量之間的差別程度。

若是協方差矩陣爲單位矩陣，那麼馬氏距離就簡化爲歐氏距離，若是協方差矩陣爲對角陣，則其也可稱爲正規化的歐氏距離。

歐氏距離的缺點

    咱們熟悉的歐氏距離雖然頗有用，但也有明顯的缺點。它將樣品的不一樣屬性（即各指標或各變量）之間的差異等同看待，這一點有時不能知足實際要求。例如，在教育研究中，常常遇到對人的分析和判別，個體的不一樣屬性對於區分個體有着不一樣的重要性。所以，有時須要採用不一樣的距離函數。

馬氏與歐式距離的比較

1）馬氏距離的計算是創建在整體樣本的基礎上的，這一點能夠從上述協方差矩陣的解釋中能夠得出，也就是說，若是拿一樣的兩個樣本，放入兩個不一樣的整體中，最後計算得出的兩個樣本間的馬氏距離一般是不相同的，除非這兩個整體的協方差矩陣碰巧相同；

2）在計算馬氏距離過程當中，要求整體樣本數大於樣本的維數，不然獲得的整體樣本協方差矩陣逆矩陣不存在，這種狀況下，用歐氏距離計算便可。

3）還有一種狀況，知足了條件整體樣本數大於樣本的維數，可是協方差矩陣的逆矩陣仍然不存在，好比三個樣本點（3，4），（5，6）和（7，8），這種狀況是由於這三個樣本在其所處的二維空間平面內共線。這種狀況下，也採用歐氏距離計算。

4）在實際應用中「整體樣本數大於樣本的維數」這個條件是很容易知足的，而全部樣本點出現3）中所描述的狀況是不多出現的，因此在絕大多數狀況下，馬氏距離是能夠順利計算的，可是馬氏距離的計算是不穩定的，不穩定的來源是協方差矩陣，這也是馬氏距離與歐氏距離的最大差別之處。

馬氏距離的優劣：

優勢：它不受量綱的影響，兩點之間的馬氏距離與原始數據的測量單位無關，由標準化數據和中心化數據(即原始數據與均值之差）計算出的二點之間的馬氏距離相同。馬氏距離還能夠排除變量之間的相關性的干擾。

缺點：它的缺點是誇大了變化微小的變量的做用。 [1]

若是用dij表示第i個樣品和第j個樣品之間的距離，那麼對一切i，j和k，dij應該知足以下四個條件：

①當且僅當i=j時，dij=0

②dij>0

③dij=dji（對稱性）

④dij≤dik+dkj（三角不等式）

顯然，歐氏距離知足以上四個條件。知足以上條件的函數有多種，本節將要用到的馬氏距離也是其中的一種。

第i個樣品與第j個樣品的馬氏距離dij用下式計算：

dij =((x i 一x j)TS-1(x i一xj) )1/2(T、-一、1/2都是上標)

其中，T表示轉置，x i 和x j分別爲第i個和第j個樣品的m個指標所組成的向量，S爲樣本協方差矩陣。

馬氏距離在迴歸分析中，是測量某一自變量的觀測量與同一自變量全部觀測量平均值差別的統計量，此值越大，說明該觀測量爲影響點的可能性越大。

    Mahalanobis距離是表示數據的協方差距離。它是一種有效的計算兩個未知樣本集的類似度的方法。與歐氏距離不一樣的是它考慮到各類特性之間的聯繫

與歐氏距離不一樣的是它考慮到各類特性之間的聯繫（例如：一條關於身高的信息會帶來一條關於體重的信息，由於二者是有關聯的）而且是尺度無關的（scale-invariant），即獨立於測量尺度。

舉個例子，坐飛機從上海到北京和坐普快從上海到北京，因爲速度的差別，會讓人以爲距離也有變化，坐飛機可能以爲，好快啊，沒多遠，一下就到了，坐火車，時常會感受好慢，怎麼這麼遠。

再舉個例子，小時候買菜都用桿秤，假如物品和秤砣剛好相等且分別放在秤的兩端，那麼提紐應該剛好在正中間。但隨着物品的重量增大，而秤砣的重量不變，那麼這時候，提紐就應該向物品一側靠近，才能繼續保持平衡。馬氏距離，就是一個找到兩個物體之間平衡點的方法。