
python數據清洗功能非常強大,相信很多進行數據處理工作的小伙伴都遇到過這種需求,比如已經有了各個銷售員的銷售業績,現在需要給各個銷售業績進行一個分檔,諸如未完成任務,完成任務,超額完成任務等。要完成分檔需要先對銷售業績的數值進行判斷,然后再根據判斷的結果進行一個分類,那么大家都是怎樣進行分類的呢?
實際上,上述需求是要對連續型的數值進行分箱操作,實現的方法有N種,但是效率有高有低,這里我們介紹兩種效率比較高而且也容易理解的方法。
先來看一下這個函數都包含有哪些參數,主要參數的含義與作用都是什么?
pd.cut( x, bins, right=True, labels=None, retbins=False, precision=3, include_lowest=False, duplicates='raise', )
x : 一維數組(對應前邊例子中提到的銷售業績)
bins :整數,標量序列或者間隔索引,是進行分組的依據,
right :布爾值,默認為True表示包含最右側的數值
labels : 數組或布爾值,可選.指定分箱的標簽
retbins: 是否顯示分箱的分界值。默認為False,當bins取整數時可以設置retbins=True以顯示分界值,得到劃分后的區間
precision:整數,默認3,存儲和顯示分箱標簽的精度。
include_lowest:布爾值,表示區間的左邊是開還是閉,默認為false,也就是不包含區間左邊。
duplicates:如果分箱臨界值不唯一,則引發ValueError或丟棄非唯一
ok,所有參數的含義與作用就是這些了,純文字解釋怎么都不如代碼跑一遍來的直觀,我們在代碼中實現一下再結合上述文字解釋就很容易理解了。而且并不是所有參數都是常用的,有些參數很少用到!
先來看一下數據源
df_f = pd.read_excel(r"D:\data\football\球隊排名比分2019.xlsx") df_f
讀入的數據是2019年英超各球隊的積分:
bins取整數,即指定箱子個數
我們對積分數據進行分箱,先來最簡單的:
pd.cut(df_f.積分,bins=3,labels=["低","中","高"]) #分成3箱并指定標簽
分箱結果:
0 高 1 高 2 中 3 中 4 中 5 中 6 中 7 中 8 低 9 低 10 低 11 低 12 低 13 低 14 低 15 低 16 低 17 低 18 低 19 低 Name: 積分, dtype: category Categories (3, object): [低 < 中 < 高]
直接指定箱子個數,分成等寬的3份,感興趣的同學可以求一下每個箱子內的極值,應該是約相等的。
前邊有提到,這種分箱方式看不到分界值是多少,但是可以通過參數進行設置顯示分界值:
pd.cut(df_f.積分,3,labels=["低","中","高"],retbins=True) #retbins=True顯示分界值
分箱結果:
(0 高 1 高 2 中 3 中 4 中 5 中 6 中 7 中 8 低 9 低 10 低 11 低 12 低 13 低 14 低 15 低 16 低 17 低 18 低 19 低 Name: 積分, dtype: category Categories (3, object): [低 < 中 < 高], array([13.953 , 29.66666667, 45.33333333, 61. ]))
是不是能明顯的看出和上一次代碼結果相比多了一個 array([13.953 , 29.66666667, 45.33333333, 61. ]),這就是分箱的分界值啦,我們就能知道分箱的時候是以那個數值作為分界點進行分箱的了。
如果不指定每個箱子的標簽是什么
pd.cut(df_f.積分,3,labels=False) #只顯示數據位于第幾個箱子里
分享結果:
0 2 1 2 2 1 3 1 4 1 5 1 6 1 7 1 8 0 9 0 10 0 11 0 12 0 13 0 14 0 15 0 16 0 17 0 18 0 19 0 Name: 積分, dtype: int64
只顯示每個位置上的數值屬于第幾個箱子
**bins取標量序列 **
pd.cut(df_f.積分,[0,30,40,70],labels=["低","中","高"]) #默認right = True
指定分箱時候的分界點,即030,3040,40~70一共三個箱體,有默認的right = True,即分箱的時候,30包含在030的箱體中,40包含在3040的箱體中,70包含在40~70的箱體中,我們來看下結果,是不是和描述一致:
這里紅框部分是要和下邊更改參數right后的結果進行對比的,我們來看下:
pd.cut(df_f.積分,[0,30,40,70],labels=["低","中","高"],right=False)
分箱結果:
能夠看到,right參數設置對分箱結果的影響。為什么會有這樣的影響呢?我們回顧下我們的原數據:
能夠發現分享發生變化的數值正好是我們分箱的臨界值,可以通過參數進行設置臨界值被劃分到哪一邊的箱體中。
如果需要將分箱的結果展示在原數據框中,直接賦值一列進去就可以了:
df_f.loc[:,"積分等級"]=pd.cut(df_f.積分,[0,30,40,70],labels=["低","中","高"],right=False) df_f
結果如下:
pd.qcut()也可以對數據進行分箱,那么和pd.cut()相比,pd.qcut()有什么不同呢?
試想一下如果我們有一個很大的數據集,需要對其中一項進行分箱,分箱的依據不是單純的等寬箱體或者沒有確定的分解值,而是按照分位數進行分箱,比如前四分之一的是一個箱體這種要求,用pd.cut()不是不能實現,只是比較麻煩,還要先計算分位數作為分解值。這個時候,pd.qcut()就方便很多了。
先看一下官方文檔給出的函數作用:
基于分位數的離散化功能。 將變量離散化為基于等級或樣本分位數的相等大小的存儲桶。
再來看一下這個函數都包含有哪些參數,主要參數的含義與作用都是什么?
和pd.cut()相比,pd.qcut()的參數少了兩個,少了right和include_lowest兩個參數,剩下的參數幾乎和pd.cut()一模一樣了。
pd.qcut(x, q, labels=None, retbins=False, precision=3, duplicates=‘raise’)
x :一維數組或者Serise
q : 表示分位數的整數或者數組,
labels : 數組或者布爾值,默認為none,用于指定每個箱體的標簽
rebines :布爾值,可選。 是否顯示分箱的分界值。(由于是按照分位數進行分箱,在不知道分位數具體數值的情況下,可以通過這個參數設置顯示分界值即分位數的具體數值)
precision:整數,默認3,存儲和顯示分箱標簽的精度。
duplicates:如果分箱臨界值不唯一,則引發ValueError或丟棄非唯一
pd.qcut()的參數就是這些了,并不是所有的參數都常用,下邊我們通過代碼示例來看一下常用參數的應用。
還是用原來的數據集
df_f = pd.read_excel(r"D:\data\football\球隊排名比分2019.xlsx") df_f
參數q
參數q控制箱子的個數以及分界值,我們先來探索這個參數:
pd.qcut(df_f.積分,4,labels=["低","中","高","很高"])
q=4表示分成四個箱子,邊界值分別為四分位數,四分之二分位數和四分之三分位數,并給每個箱子都指定了標簽,看下結果:
0 很高 1 很高 2 很高 3 很高 4 很高 5 高 6 高 7 高 8 高 9 中 10 中 11 中 12 中 13 中 14 中 15 低 16 低 17 低 18 低 19 低 Name: 積分, dtype: category Categories (4, object): [低 < 中 < 高 < 很高]
再通過將q設置成數組看下分類結果是否一致:
pd.qcut(df_f.積分,[0,0.25,0.5,0.75,1],labels=["低","中","高","很高"])
直接設置成四分位數,四分之二分位數和四分之三分位數,看下結果:
0 很高 1 很高 2 很高 3 很高 4 很高 5 高 6 高 7 高 8 高 9 中 10 中 11 中 12 中 13 中 14 中 15 低 16 低 17 低 18 低 19 低 Name: 積分, dtype: category Categories (4, object): [低 < 中 < 高 < 很高]
結果是完全一致的。
溫馨提示:不管是pd.cut()還是pd.qcut(),如果直接指定分箱的分界值,即bines和q的取值如果是數字,一定要把每一個箱體的上分界值和下分界值都寫上,即每個箱體都是有上下限的,如果分四個箱子參數數組中比如有5個數值才可以。
參數lsbels
探索完q參數我們來看下labels參數,這個參數在介紹pd.cut()時沒有具體探討,其實在兩個函數中,labels的作用是一致的,我們在此研究一下,上邊例子中labels都指定了標簽名字,如果不指定,會有怎樣的結果呢?
pd.qcut(df_f.積分,4)
結果如下:
0 (32.5, 61.0] 1 (32.5, 61.0] 2 (32.5, 61.0] 3 (32.5, 61.0] 4 (32.5, 61.0] 5 (28.0, 32.5] 6 (28.0, 32.5] 7 (28.0, 32.5] 8 (28.0, 32.5] 9 (23.5, 28.0] 10 (23.5, 28.0] 11 (23.5, 28.0] 12 (23.5, 28.0] 13 (23.5, 28.0] 14 (23.5, 28.0] 15 (13.999, 23.5] 16 (13.999, 23.5] 17 (13.999, 23.5] 18 (13.999, 23.5] 19 (13.999, 23.5] Name: 積分, dtype: category Categories (4, interval[float64]): [(13.999, 23.5] < (23.5, 28.0] < (28.0, 32.5] < (32.5, 61.0]]
如果不指定labels,也就是說每個箱體都沒有名字,那么只好把箱體展現出來,即顯示每個箱體的兩個臨界值,至于要不要設置labels,視情況需求而定哦!
參數rebines
這個參數的作用是顯示箱體的分界值:
pd.qcut(df_f.積分,4,labels=["低","中","高","很高"],retbins=True)
查看結果,和上邊沒有設置這個參數的結果做一下對比就可以發現該參數的作用了:
(0 很高 1 很高 2 很高 3 很高 4 很高 5 高 6 高 7 高 8 高 9 中 10 中 11 中 12 中 13 中 14 中 15 低 16 低 17 低 18 低 19 低 Name: 積分, dtype: category Categories (4, object): [低 < 中 < 高 < 很高], array([14. , 23.5, 28. , 32.5, 61. ]))
最后位置多了一個數組,數組內就是每個箱體的分界值了。
文章開頭提到pd.qcut()比pd.cut()少兩個參數,少的參數是控制分界值被分到哪個箱子的,按分位數分箱不能控制分界值被分到哪里,顯示分界值后能夠發現,每個箱體的數值是包含上分界值的。
再看一眼原數據:
其中28是一個第二個箱體的上限,即標簽為“中”的箱體,而在分箱的時候,數值為28的球隊都被分到了標簽為“中”的箱體中,這個小細節可能很容易被忽視掉,這里做一下小提醒。
關于分箱的函數介紹到這里,大家能夠區分并根據實際需求靈活運用pd.qcut()和pd.cut()了嗎?
小伙伴們還有哪些疑問或者新發現歡迎一起討論哦!
數據分析咨詢請掃描二維碼
若不方便掃碼,搜微信號:CDAshujufenxi
CDA數據分析師證書考試體系(更新于2025年05月22日)
2025-05-26解碼數據基因:從數字敏感度到邏輯思維 每當看到超市貨架上商品的排列變化,你是否會聯想到背后的銷售數據波動?三年前在零售行 ...
2025-05-23在本文中,我們將探討 AI 為何能夠加速數據分析、如何在每個步驟中實現數據分析自動化以及使用哪些工具。 數據分析中的AI是什么 ...
2025-05-20當數據遇見人生:我的第一個分析項目 記得三年前接手第一個數據分析項目時,我面對Excel里密密麻麻的銷售數據手足無措。那些跳動 ...
2025-05-20在數字化運營的時代,企業每天都在產生海量數據:用戶點擊行為、商品銷售記錄、廣告投放反饋…… 這些數據就像散落的拼圖,而相 ...
2025-05-19在當今數字化營銷時代,小紅書作為國內領先的社交電商平臺,其銷售數據蘊含著巨大的商業價值。通過對小紅書銷售數據的深入分析, ...
2025-05-16Excel作為最常用的數據分析工具,有沒有什么工具可以幫助我們快速地使用excel表格,只要輕松幾步甚至輸入幾項指令就能搞定呢? ...
2025-05-15數據,如同無形的燃料,驅動著現代社會的運轉。從全球互聯網用戶每天產生的2.5億TB數據,到制造業的傳感器、金融交易 ...
2025-05-15大數據是什么_數據分析師培訓 其實,現在的大數據指的并不僅僅是海量數據,更準確而言是對大數據分析的方法。傳統的數 ...
2025-05-14CDA持證人簡介: 萬木,CDA L1持證人,某電商中廠BI工程師 ,5年數據經驗1年BI內訓師,高級數據分析師,擁有豐富的行業經驗。 ...
2025-05-13CDA持證人簡介: 王明月 ,CDA 數據分析師二級持證人,2年數據產品工作經驗,管理學博士在讀。 學習入口:https://edu.cda.cn/g ...
2025-05-12CDA持證人簡介: 楊貞璽 ,CDA一級持證人,鄭州大學情報學碩士研究生,某上市公司數據分析師。 學習入口:https://edu.cda.cn/g ...
2025-05-09CDA持證人簡介 程靖 CDA會員大咖,暢銷書《小白學產品》作者,13年頂級互聯網公司產品經理相關經驗,曾在百度、美團、阿里等 ...
2025-05-07相信很多做數據分析的小伙伴,都接到過一些高階的數據分析需求,實現的過程需要用到一些數據獲取,數據清洗轉換,建模方法等,這 ...
2025-05-06以下的文章內容來源于劉靜老師的專欄,如果您想閱讀專欄《10大業務分析模型突破業務瓶頸》,點擊下方鏈接 https://edu.cda.cn/g ...
2025-04-30CDA持證人簡介: 邱立峰 CDA 數據分析師二級持證人,數字化轉型專家,數據治理專家,高級數據分析師,擁有豐富的行業經驗。 ...
2025-04-29CDA持證人簡介: 程靖 CDA會員大咖,暢銷書《小白學產品》作者,13年頂級互聯網公司產品經理相關經驗,曾在百度,美團,阿里等 ...
2025-04-28CDA持證人簡介: 居瑜 ,CDA一級持證人國企財務經理,13年財務管理運營經驗,在數據分析就業和實踐經驗方面有著豐富的積累和經 ...
2025-04-27數據分析在當今信息時代發揮著重要作用。單因素方差分析(One-Way ANOVA)是一種關鍵的統計方法,用于比較三個或更多獨立樣本組 ...
2025-04-25CDA持證人簡介: 居瑜 ,CDA一級持證人國企財務經理,13年財務管理運營經驗,在數據分析就業和實踐經驗方面有著豐富的積累和經 ...
2025-04-25