馬氏距離

出自 MBA智库百科(https://wiki.mbalib.com/)

馬氏距離(Mahalanobis distance)

　　馬氏距離(Mahalanobis distance)是由印度統計學家馬哈拉諾比斯(P. C. Mahalanobis)提出的，表示數據的協方差距離。它是一種有效的計算兩個未知樣本集的相似度的方法。與歐氏距離不同的是，它考慮到各種特性之間的聯繫（例如：一條關於身高的信息會帶來一條關於體重的信息，因為兩者是有關聯的），並且是尺度無關的(scale-invariant)，即獨立於測量尺度。對於一個均值為μ，協方差矩陣為Σ的多變數向量，其馬氏距離為sqrt( (x-μ)'Σ^(-1)(x-μ) )。

　　馬氏距離也可以定義為兩個服從同一分佈並且其協方差矩陣為Σ的隨機變數之間的差異程度。

　　如果協方差矩陣為單位矩陣，那麼馬氏距離就簡化為歐氏距離，如果協方差矩陣為對角陣，則其也可稱為正規化的歐氏距離。

　　1）馬氏距離的計算是建立在總體樣本的基礎上的，這一點可以從上述協方差矩陣的解釋中可以得出，也就是說，如果拿同樣的兩個樣本，放入兩個不同的總體中，最後計算得出的兩個樣本間的馬氏距離通常是不相同的，除非這兩個總體的協方差矩陣碰巧相同；

　　2）在計算馬氏距離過程中，要求總體樣本數大於樣本的維數，否則得到的總體樣本協方差矩陣逆矩陣不存在，這種情況下，用歐氏距離計算即可。

　　3）還有一種情況，滿足了條件總體樣本數大於樣本的維數，但是協方差矩陣的逆矩陣仍然不存在，比如三個樣本點（3，4），（5，6）和（7，8），這種情況是因為這三個樣本在其所處的二維空間平面內共線。這種情況下，也採用歐氏距離計算。

　　4）在實際應用中“總體樣本數大於樣本的維數”這個條件是很容易滿足的，而所有樣本點出現3）中所描述的情況是很少出現的，所以在絕大多數情況下，馬氏距離是可以順利計算的，但是馬氏距離的計算是不穩定的，不穩定的來源是協方差矩陣，這也是馬氏距離與歐氏距離的最大差異之處。

　　優點：它不受量綱的影響，兩點之間的馬氏距離與原始數據的測量單位無關，由標準化數據和中心化數據(即原始數據與均值之差）計算出的二點之間的馬氏距離相同。馬氏距離還可以排除變數之間的相關性的干擾。

　　缺點：它的缺點是誇大了變化微小的變數的作用。

• 歐氏距離