熱線電話：13121318867

登錄
首頁精彩閱讀相關性檢驗之Pearson系數及python實現
相關性檢驗之Pearson系數及python實現
2018-01-25
收藏

相關性檢驗之Pearson系數及python實現

一、Pearson相關系數

皮爾森相關系數是用來反應倆變量之間相似程度的統計量，在機器學習中可以用來計算特征與類別間的相似度，即可判斷所提取到的特征和類別是正相關、負相關還是沒有相關程度。

Pearson系數的取值范圍為[-1,1]，當值為負時，為負相關，當值為正時，為正相關，絕對值越大，則正/負相關的程度越大。若數據無重復值，且兩個變量完全單調相關時，spearman相關系數為+1或-1。當兩個變量獨立時相關系統為0，但反之不成立

Pearson相關系數的計算方法有三種形式，如下列公式所示

其中X,Y代表兩個特征數組， ， 為X,Y特征的平均值。對于第一種形式的Pearson表示，可以看做是兩個隨機變量中得到的樣本集向量之間夾角的cosine函數。

二、Python代碼實現

在這里主要實現了第一種Pearson形式的代碼，代碼分為三個模塊，第一個模塊的功能是來獲取兩個向量的平均值；第二個模塊的功能實現的是求兩個向量間的pearson系數，返回pearson系數；最后一個模塊是來求取所有特征和類的相似程度


[python]view plaincopy
  1. #計算特征和類的平均值  
  2. ef calcMean(x,y):  
  3.    sum_x = sum(x)  
  4.    sum_y = sum(y)  
  5.    n = len(x)  
  6.    x_mean = float(sum_x+0.0)/n  
  7.    y_mean = float(sum_y+0.0)/n  
  8.    return x_mean,y_mean  


[python]view plaincopy
  1. #計算Pearson系數  
  2. def calcPearson(x,y):  
  3.     x_mean,y_mean = calcMean(x,y)   #計算x,y向量平均值  
  4.     n = len(x)  
  5.     sumTop = 0.0  
  6.     sumBottom = 0.0  
  7.     x_pow = 0.0  
  8.     y_pow = 0.0  
  9.     for i in range(n):  
  10.         sumTop += (x[i]-x_mean)*(y[i]-y_mean)  
  11.     for i in range(n):  
  12.         x_pow += math.pow(x[i]-x_mean,2)  
  13.     for i in range(n):  
  14.         y_pow += math.pow(y[i]-y_mean,2)  
  15.     sumBottom = math.sqrt(x_pow*y_pow)  
  16.     p = sumTop/sumBottom  
  17.     return p  
[python]view plaincopy
  1.   
[python]view plaincopy
  1. #計算每個特征的spearman系數，返回數組  
  2. def calcAttribute(dataSet):  
  3.     prr = []  
  4.     n,m = shape(dataSet)    #獲取數據集行數和列數  
  5.     x = [0] * n             #初始化特征x和類別y向量  
  6.     y = [0] * n  
  7.     for i in range(n):      #得到類向量  
  8.         y[i] = dataSet[i][m-1]  
  9.     for j in range(m-1):    #獲取每個特征的向量，并計算Pearson系數，存入到列表中  
  10.         for k in range(n):  
  11.             x[k] = dataSet[k][j]  
  12.         prr.append(calcSpearman(x,y))  
  13.     return prr  


三、樣例演示

這里有一個1162*22的數據集，如下圖所示，前21列表示特征，第22列表示類別。該數據集是一個二分類問題。

對于每個特征，調用上述函數，得出的每個特征的pearson系數如下圖所示。根據得到的結果，對于特征選擇就有一定的依據啦~



CDA數據分析師考試相關入口一覽（建議收藏）：

? 想報名CDA認證考試，點擊>>>   “CDA報名” 了解CDA考試詳情；

? 想學習CDA考試教材，點擊>>> “CDA教材” 了解CDA考試詳情；

? 想加入CDA考試題庫，點擊>>> “CDA題庫” 了解CDA考試詳情；

? 想了解CDA考試含金量，點擊>>> “CDA含金量” 了解CDA考試詳情；

特征 python 機器學習

數據分析咨詢請掃描二維碼

若不方便掃碼，搜微信號：CDAshujufenxi

上一篇大數據解讀數字營銷七大新趨勢
下一篇Python類的繼承和多態代碼詳解
數據分析師考試動態
CDA報考指南
數據分析學習
數據分析師資訊
更多

CDA教育閉環

常見問題

關于我們

CDA數據分析師公眾號

  • CDA數據分析師公眾號

CDA考試中心小程序

  • CDA考試中心服務號

CDA數據分析師App下載

  • CDA數據分析師App下載
Copyright © 2015-2021, www.ruiqisteel.com All Rights Reserved. CDA數據分析師(北京國富如荷網絡科技有限公司) 版權所有 京ICP備11001960號-9 京公網安備 11010802034615號 經營許可證編號：京B2-20210330
聯系電話：13321103290 (微信同號)

OK
客服在線
立即咨詢
日韩人妻系列无码专区视频,先锋高清无码,无码免费视欧非,国精产品一区一区三区无码
客服在線
立即咨詢