熱線電話：13121318867

登錄
首頁精彩閱讀如何處理數據中的缺失值
如何處理數據中的缺失值
2016-04-01
收藏

如何處理數據中的缺失值

現實世界中的數據往往非常雜亂，未經處理的原始數據中某些屬性數據缺失是經常出現的情況。另外，在做特征工程時經常會有些樣本的某些特征無法求出。路漫漫其修遠兮，數據還是要繼續挖的，本文介紹幾種處理數據中缺失值的主要方法。

一、常用方法

1. 刪除

最簡單的方法是刪除，刪除屬性或者刪除樣本。如果大部分樣本該屬性都缺失，這個屬性能提供的信息有限，可以選擇放棄使用該維屬性；如果一個樣本大部分屬性缺失，可以選擇放棄該樣本。雖然這種方法簡單，但只適用于數據集中缺失較少的情況。

2. 統計填充

對于缺失值的屬性，尤其是數值類型的屬性，根據所有樣本關于這維屬性的統計值對其進行填充，如使用平均數、中位數、眾數、最大值、最小值等，具體選擇哪種統計值需要具體問題具體分析。另外，如果有可用類別信息，還可以進行類內統計，比如身高，男性和女性的統計填充應該是不同的。

3. 統一填充

對于含缺失值的屬性，把所有缺失值統一填充為自定義值，如何選擇自定義值也需要具體問題具體分析。當然，如果有可用類別信息，也可以為不同類別分別進行統一填充。常用的統一填充值有：“空”、“0”、“正無窮”、“負無窮”等。

4. 預測填充

我們可以通過預測模型利用不存在缺失值的屬性來預測缺失值，也就是先用預測模型把數據填充后再做進一步的工作，如統計、學習等。雖然這種方法比較復雜，但是最后得到的結果比較好。

二、具體分析

上面兩次提到具體問題具體分析，為什么要具體問題具體分析呢？因為屬性缺失有時并不意味著數據缺失，缺失本身是包含信息的，所以需要根據不同應用場景下缺失值可能包含的信息進行合理填充。下面通過一些例子來說明如何具體問題具體分析，仁者見仁智者見智，僅供參考：

“年收入”：商品推薦場景下填充平均值，借貸額度場景下填充最小值；

“行為時間點”：填充眾數；

“價格”：商品推薦場景下填充最小值，商品匹配場景下填充平均值；

“人體壽命”：保險費用估計場景下填充最大值，人口估計場景下填充平均值；

“駕齡”：沒有填寫這一項的用戶可能是沒有車，為它填充為0較為合理；

“本科畢業時間”：沒有填寫這一項的用戶可能是沒有上大學，為它填充正無窮比較合理；


“婚姻狀態”：沒有填寫這一項的用戶可能對自己的隱私比較敏感，應單獨設為一個分類，如已婚1、未婚0、未填-1。


CDA數據分析師考試相關入口一覽（建議收藏）：

? 想報名CDA認證考試，點擊>>>   “CDA報名” 了解CDA考試詳情；

? 想學習CDA考試教材，點擊>>> “CDA教材” 了解CDA考試詳情；

? 想加入CDA考試題庫，點擊>>> “CDA題庫” 了解CDA考試詳情；

? 想了解CDA考試含金量，點擊>>> “CDA含金量” 了解CDA考試詳情；

特征 商品推薦 特征工程

數據分析咨詢請掃描二維碼

若不方便掃碼，搜微信號：CDAshujufenxi

上一篇回歸系列（一）| 怎樣正確地理解線性回歸
下一篇2020美國總統競選大戲開鑼，川普當選的奇跡會再發生嗎？
數據分析師考試動態
CDA報考指南
數據分析學習
數據分析師資訊
更多

CDA教育閉環

常見問題

關于我們

CDA數據分析師公眾號

  • CDA數據分析師公眾號

CDA考試中心小程序

  • CDA考試中心服務號

CDA數據分析師App下載

  • CDA數據分析師App下載
Copyright © 2015-2021, www.ruiqisteel.com All Rights Reserved. CDA數據分析師(北京國富如荷網絡科技有限公司) 版權所有 京ICP備11001960號-9 京公網安備 11010802034615號 經營許可證編號：京B2-20210330
聯系電話：13321103290 (微信同號)

OK
客服在線
立即咨詢
日韩人妻系列无码专区视频,先锋高清无码,无码免费视欧非,国精产品一区一区三区无码
客服在線
立即咨詢