數據分析方法匯總(1)

很長時間沒有寫過關于數據分析師的文章了，做數據分析師也好多年了，近期好多數據小白們在問，數據分析師的數據分析方法都有哪些，下面是對數據分析方法的總結。

一、描述統計

描述性統計是指運用制表和分類，圖形以及計筠概括性數據來描述數據的集中趨勢、離散趨勢、偏度、峰度。

1、缺失值填充：常用方法：剔除法、均值法、最小鄰居法、比率\回歸法、決策樹法。

2、正態性檢驗：很多統計方法都要求數值服從或近似服從正態分布，所以之前需要進行正態性檢驗。常用方法：非參數檢驗的K-量檢驗、P-P圖、Q-Q圖、W檢驗、動差法。

二、假設檢驗

1、參數檢驗

參數檢驗是在已知總體分布的條件下（一股要求總體服從正態分布）對一些主要的參數(如均值、百分數、方差、相關系數等）進行的檢驗 。

1）U驗   使用條件：當樣本含量n較大時，樣本值符合正態分布

2）T檢驗 使用條件：當樣本含量n較小時，樣本值符合正態分布

A  單樣本t檢驗：推斷該樣本來自的總體均數μ與已知的某一總體均數μ0 (常為理論值或標準值)有無差別；

B  配對樣本t檢驗：當總體均數未知時，且兩個樣本可以配對，同對中的兩者在可能會影響處理效果的各種條件方面扱為相似；

C 兩獨立樣本t檢驗：無法找到在各方面極為相似的兩樣本作配對比較時使用。

2、非參數檢驗

非參數檢驗則不考慮總體分布是否已知，常常也不是針對總體參數，而是針對總體的某些一股性假設（如總體分布的位罝是否相同，總體分布是否正態）進行檢驗。

適用情況：順序類型的數據資料，這類數據的分布形態一般是未知的。

A 雖然是連續數據，但總體分布形態未知或者非正態；

B 體分布雖然正態，數據也是連續類型，但樣本容量極小，如10以下；

主要方法包括：卡方檢驗、秩和檢驗、二項檢驗、游程檢驗、K-量檢驗等。

三、信度分析

檢査測量的可信度，例如調查問卷的真實性。

分類：

1、外在信度：不同時間測量時量表的一致性程度，常用方法重測信度

2、內在信度；每個量表是否測量到單一的概念，同時組成兩表的內在體項一致性如何，常用方法分半信度。

四、列聯表分析

用于分析離散變量或定型變量之間是否存在相關。

對于二維表，可進行卡方檢驗，對于三維表，可作Mentel-Hanszel分層分析。

列聯表分析還包括配對計數資料的卡方檢驗、行列均為順序變量的相關檢驗。

五、相關分析

研究現象之間是否存在某種依存關系，對具體有依存關系的現象探討相關方向及相關程度。

1、單相關： 兩個因素之間的相關關系叫單相關，即研究時只涉及一個自變量和一個因變量；

2、復相關 ：三個或三個以上因素的相關關系叫復相關，即研究時涉及兩個或兩個以上的自變量和因變量相關；

3、偏相關：在某一現象與多種現象相關的場合，當假定其他變量不變時，其中兩個變量之間的相關關系稱為偏相關。

六、方差分析

使用條件：各樣本須是相互獨立的隨機樣本；各樣本來自正態分布總體；各總體方差相等。

分類

1、單因素方差分析：一項試驗只有一個影響因素，或者存在多個影響因素時，只分析一個因素與響應變量的關系

2、多因素有交互方差分析：一頊實驗有多個影響因素，分析多個影響因素與響應變量的關系，同時考慮多個影響因素之間的關系

3、多因素無交互方差分析：分析多個影響因素與響應變量的關系，但是影響因素之間沒有影響關系或忽略影響關系

4、協方差分祈：傳統的方差分析存在明顯的弊端，無法控制分析中存在的某些隨機因素，使之影響了分祈結果的準確度。協方差分析主要是在排除了協變量的影響后再對修正后的主效應進行方差分析，是將線性回歸與方差分析結合起來的一種分析方法，

七、回歸分析

分類：

1、一元線性回歸分析：只有一個自變量X與因變量Y有關，X與Y都必須是連續型變量，因變量y或其殘差必須服從正態分布。

2、多元線性回歸分析

使用條件：分析多個自變量與因變量Y的關系，X與Y都必須是連續型變量，因變量y或其殘差必須服從正態分布 。

1）變呈篩選方式：選擇最優回歸方程的變里篩選法包括全橫型法（CP法）、逐步回歸法，向前引入法和向后剔除法

2）橫型診斷方法：

A 殘差檢驗： 觀測值與估計值的差值要艱從正態分布

B 強影響點判斷：尋找方式一般分為標準誤差法、Mahalanobis距離法

C 共線性診斷：

·診斷方式：容忍度、方差擴大因子法(又稱膨脹系數VIF)、特征根判定法、條件指針CI、方差比例

·處理方法：增加樣本容量或選取另外的回歸如主成分回歸、嶺回歸等

3、Logistic回歸分析

    線性回歸模型要求因變量是連續的正態分布變里，且自變量和因變量呈線性關系，而Logistic回歸模型對因變量的分布沒有要求，一般用于因變量是離散時的情況

分類：

Logistic回歸模型有條件與非條件之分，條件Logistic回歸模型和非條件Logistic回歸模型的區別在于參數的估計是否用到了條件概率。

4、其他回歸方法 非線性回歸、有序回歸、Probit回歸、加權回歸等