三大相關係數:pearson, spearman, kendall
統計學中的三大相關性係數:pearson, spearman, kendall,他們反應的都是兩個變量之間變化趨勢的方向以及程度,其值範圍爲-1到+1。
0表示兩個變量不相關,正值表示正相關,負值表示負相關,值越大表示相關性越強。
1. person correlation coefficient(皮爾森相關性係數)
皮爾遜相關係數一般用r或ρ表示,度量兩變量X和Y之間相互關係(線性相關)
(1)公式
皮爾森相關性係數的值等於它們之間的協方差cov(X,Y)除以它們各自標準差的乘積(σX, σY)。
(2)數據要求
a.正態分佈
它是協方差與標準差的比值,而且在求皮爾森相關性係數之後,一般還會用t檢驗之類的方法來進行皮爾森相關性係數檢驗,而t檢驗是基於數據呈正態分佈的假設的。
b.實驗數據之間的差距不能太大
好比:研究人跑步的速度與心臟跳動的相關性,若是人突發心臟病,心跳爲0(或者過快與過慢),那這時候咱們會測到一個偏離正常值的心跳,若是咱們把這個值也放進去進行相關性分析,它的存在會大大幹擾計算的結果的。
(3)實例代碼
import pandas as pd
import numpy as np
#原始數據
X1=pd.Series([1, 2, 3, 4, 5, 6])
Y1=pd.Series([0.3, 0.9, 2.7, 2, 3.5, 5])
X1.mean() #平均值# 3.5
Y1.mean() #2.4
X1.var() #方差#3.5
Y1.var() #2.9760000000000004
X1.std() #標準差不能爲0# 1.8708286933869707
Y1.std() #標準差不能爲0#1.725108692227826
X1.cov(Y1) #協方差#3.0600000000000005
X1.corr(Y1,method="pearson") #皮爾森相關性係數 #0.948136664010285
X1.cov(Y1)/(X1.std()*Y1.std()) #皮爾森相關性係數 # 0.948136664010285
2. spearman correlation coefficient(斯皮爾曼相關性係數) 斯皮爾曼相關性係數,一般也叫斯皮爾曼秩相關係數。「秩」,能夠理解成就是一種順序或者排序,那麼它就是根據原始數據的排序位置進行求解
(1)公式 首先對兩個變量(X, Y)的數據進行排序,而後記下排序之後的位置(X’, Y’),(X’, Y’)的值就稱爲秩次,秩次的差值就是上面公式中的di,n就是變量中數據的個數,最後帶入公式就可求解結果。 (2)數據要求 由於是定序,因此咱們不用管X和Y這兩個變量具體的值到底差了多少,只須要算一下它們每一個值所處的排列位置的差值,就能夠求出相關性係數了 (3)實例代碼
import pandas as pd
import numpy as np
#原始數據
X1=pd.Series([1, 2, 3, 4, 5, 6])
Y1=pd.Series([0.3, 0.9, 2.7, 2, 3.5, 5])
#處理數據刪除Nan
x1=X1.dropna()
y1=Y1.dropna()
n=x1.count()
x1.index=np.arange(n)
y1.index=np.arange(n)
#分部計算
d=(x1.sort_values().index-y1.sort_values().index)**2
dd=d.to_series().sum()
p=1-n*dd/(n*(n**2-1))
#s.corr()函數計算
r=x1.corr(y1,method='spearman')
print(r,p) #0.942857142857143 0.9428571428571428
3. kendall correlation coefficient(肯德爾相關性係數)函數
肯德爾相關性係數,又稱肯德爾秩相關係數,它也是一種秩相關係數,不過它所計算的對象是分類變量。 分類變量能夠理解成有類別的變量,能夠分爲: (1) 無序的,好比性別(男、女)、血型(A、B、O、AB); (2) 有序的,好比肥胖等級(重度肥胖,中度肥胖、輕度肥胖、不肥胖)。 一般須要求相關性係數的都是有序分類變量。
(1)公式 R=(P-(n*(n-1)/2-P))/(n*(n-1)/2)=(4P/(n*(n-1)))-1 注:設有n個統計對象,每一個對象有兩個屬性。將全部統計對象按屬性1取值排列,不失通常性,設此時屬性2取值的排列是亂序的。設P爲兩個屬性值排列大小關係一致的統計對象對數 (2)數據要求 類別數據或者能夠分類的數據 (3)實例代碼
import pandas as pd
import numpy as np
#原始數據
x= pd.Series([3,1,2,2,1,3])
y= pd.Series([1,2,3,2,1,1])
r = x.corr(y,method="kendall") #-0.2611165