熱線電話：13121318867

登錄
首頁精彩閱讀如何做好數據預處理（一）
如何做好數據預處理（一）
2018-12-14
收藏


數據分析中，需要先挖掘數據，然后對數據進行處理。數據預處理的字面意思就是對于數據的預先處理，數據預處理的作用就是為了提高數據的質量以及使用數據分析軟件。對于數據的預處理的具體步驟就是數據清洗、數據集成、數據變換、數據規范等工作，而數據預處理是對數據分析工作很重要的事情，所以大家一定要重視這個。


首先說一下數據清洗就是清理臟數據以及凈化數據的環境，說到這里大家可能不知道什么是臟數據，一般來說，臟數據就是數據分析中數據存在亂碼，無意義的字符，以及含有噪音的數據。臟數據具體表現在形式上和內容上的臟。就目前而言，臟數據在形式上就是缺失值和特殊符號，形式上的臟數據有缺失值、帶有特殊符號的數據，內容上的臟數據上有異常值。


那么什么是缺失值呢？缺失值包括缺失值的識別和缺失值的處理。一般來說缺失值處理方法有刪除、替換和插補。先來說說刪除法吧。刪除法根據刪除的不同角度又可以分為刪除觀測樣本和變量，刪除觀測樣本，這就相當于減少樣本量來換取信息的完整度，但當變量有較大缺失并且對研究目標影響不大時，可以直接刪除。接著說一下替換法，所謂替換法就是將缺失值進行替換，根據變量的不同又有不同的替換規則，缺失值的所在變量是數值型用該變量下其他數的均值來替換缺失值；變量為非數值變量時則用該變量下其他觀測值的中位數或眾數替換。最后說說插補法，插補法分為回歸插補和多重插補；回歸插補指的是將插補的變量轉變成替換法，然后根據替換法進行替換即可。


剛剛說到的缺失值，其實異常值也是需要處理的，那么什么是異常值呢？異常值跟缺失值一樣，包括異常值的識別和異常值的處理。對于異常值的處理我們一般使用單變量散點圖或箱形圖來處理，在圖形中，把遠離正常范圍的點當作異常值。異常值的的處理有刪除含有異常值的觀測、當作缺失值、平均值修正、不處理。在進行異常值處理時要先復習異常值出現的可能原因，再判斷異常值是否應該舍棄。


大家在進行清洗數據的時候需要注意缺失數據的填補以及對異常數值的修正，這樣才能夠做好數據分析工作，由于篇幅的關系，如何做好數據預處理工作就給大家介紹到這里了，希望這篇文章能夠給大家帶來幫助。


CDA數據分析師考試相關入口一覽（建議收藏）：

? 想報名CDA認證考試，點擊>>>   “CDA報名” 了解CDA考試詳情；

? 想學習CDA考試教材，點擊>>> “CDA教材” 了解CDA考試詳情；

? 想加入CDA考試題庫，點擊>>> “CDA題庫” 了解CDA考試詳情；

? 想了解CDA考試含金量，點擊>>> “CDA含金量” 了解CDA考試詳情；

數據分析 數據清洗 異常值處理 缺失值處理 散點圖

數據分析咨詢請掃描二維碼

若不方便掃碼，搜微信號：CDAshujufenxi

上一篇求職 | 一份理想的數據科學家簡歷中要包括哪些技能？
下一篇如何做好數據預處理（二）
數據分析師考試動態
CDA報考指南
數據分析學習
數據分析師資訊
更多

CDA教育閉環

常見問題

關于我們

CDA數據分析師公眾號

  • CDA數據分析師公眾號

CDA考試中心小程序

  • CDA考試中心服務號

CDA數據分析師App下載

  • CDA數據分析師App下載
Copyright © 2015-2021, www.ruiqisteel.com All Rights Reserved. CDA數據分析師(北京國富如荷網絡科技有限公司) 版權所有 京ICP備11001960號-9 京公網安備 11010802034615號 經營許可證編號：京B2-20210330
聯系電話：13321103290 (微信同號)

OK
客服在線
立即咨詢
日韩人妻系列无码专区视频,先锋高清无码,无码免费视欧非,国精产品一区一区三区无码
客服在線
立即咨詢