
數據科學中的陷阱:變量的數學運算合理嗎
數據科學中有各種各樣的模型,有的聽起來很簡單,比如線性回歸;有點呢,聽起來就很嚇人,比如深度學習。但是不管什么樣的模型,從本質上來講,模型都是對訓練數據做數學運算,并以此求得模型參數的估計值。
所以我們需要保證兩點:
第一,訓練數據能進行數學運算;
第二,對變量所做的數學運算是合理的。
對于第一點,通常只在一些特定的應用場景里才需要比較復雜的處理,比如自然語言處理、圖像識別等。
但對于第二點,幾乎所有的場景都會遇到。
這里將注重研究第二點“對變量所做的數學運算是合理的”,它表示的內涵是:對于變量,數字的運算有相應的實際意義,包括以下兩個方面:
? 數字的大小關系。
? 數字的四則運算。
為了更好地討論問題,將模型的自變量分類。正如前面章節所提到的,在模型里使用的變量可以分為兩類:數值型變量和類別型變量。如圖1所示。
圖1
數值型變量,在學術上也被稱為定量變量(quantitative variable),如長度、收入、重量等。它們的數值表示具體的測量或計數。事實上,定量變量按是否連續可進一步細分為連續型變量和離散型變量。在一定區間內可以任意取值的變量叫連續型變量,比如人的身高、體重等;反之則是離散型變量,比如公司員工人數等。對于這類變量,數字間的不等關系是有實際意義的。比如對于收入,在數學上,100小于1000;在實際生活中,100元也小于1000元。數字間的四則運算也同理,這里就不贅述了。當然由于數字的等于關系和四則運算,數值型變量常常隱含著邊際效應恒定的假設,正如我們在第5章里討論的那樣。在某些場景下,這個隱含假設與現實不符,直接使用變量會影響模型的效果。
類別型變量,也被稱為定性變量(categorical variable)。它并不是表示數量上的變化,而是表示類別。比如性別、省份、學歷、產品等級等。這類變量的取值通常是用文字而非數字來表示。比如對于性別這個變量,可能的取值為男、女。因此要將文字變量轉換為數字變量,并且保證對于轉換之后的變量,數學運算是有意義的,這并不是一件容易的事情。通常針對一個類別型變量,我們會用一個數字去表示其中的一個類別,但這樣的轉換方法并不能滿足要求:
對于有序的類別型變量,比如產品等級,0表示合格、1表示良好、2表示優秀。這種情況下,0小于1的確對應著合格等級次于良好等級,但數字間的四則運算就沒有對應意義了。數學上2減1等于1,但對于產品等級,優秀減去良好還等于良好嗎?
對于無序的類別型變量,比如對于省份,0表示北京、1表示上海、2表示深圳等。數字間的大小關系和四則運算都是沒有實際意義的。
因此,在模型里直接使用類別型變量是沒有任何道理的,也會嚴重影響模型的效果。由此可見,不管是數值型變量還是類別型變量,通常都需要根據問題場景做相應變換后,再放到模型中使用。
數據分析咨詢請掃描二維碼
若不方便掃碼,搜微信號:CDAshujufenxi
解碼數據基因:從數字敏感度到邏輯思維 每當看到超市貨架上商品的排列變化,你是否會聯想到背后的銷售數據波動?三年前在零售行 ...
2025-05-23在本文中,我們將探討 AI 為何能夠加速數據分析、如何在每個步驟中實現數據分析自動化以及使用哪些工具。 數據分析中的AI是什么 ...
2025-05-20當數據遇見人生:我的第一個分析項目 記得三年前接手第一個數據分析項目時,我面對Excel里密密麻麻的銷售數據手足無措。那些跳動 ...
2025-05-20在數字化運營的時代,企業每天都在產生海量數據:用戶點擊行為、商品銷售記錄、廣告投放反饋…… 這些數據就像散落的拼圖,而相 ...
2025-05-19在當今數字化營銷時代,小紅書作為國內領先的社交電商平臺,其銷售數據蘊含著巨大的商業價值。通過對小紅書銷售數據的深入分析, ...
2025-05-16Excel作為最常用的數據分析工具,有沒有什么工具可以幫助我們快速地使用excel表格,只要輕松幾步甚至輸入幾項指令就能搞定呢? ...
2025-05-15數據,如同無形的燃料,驅動著現代社會的運轉。從全球互聯網用戶每天產生的2.5億TB數據,到制造業的傳感器、金融交易 ...
2025-05-15大數據是什么_數據分析師培訓 其實,現在的大數據指的并不僅僅是海量數據,更準確而言是對大數據分析的方法。傳統的數 ...
2025-05-14CDA持證人簡介: 萬木,CDA L1持證人,某電商中廠BI工程師 ,5年數據經驗1年BI內訓師,高級數據分析師,擁有豐富的行業經驗。 ...
2025-05-13CDA持證人簡介: 王明月 ,CDA 數據分析師二級持證人,2年數據產品工作經驗,管理學博士在讀。 學習入口:https://edu.cda.cn/g ...
2025-05-12CDA持證人簡介: 楊貞璽 ,CDA一級持證人,鄭州大學情報學碩士研究生,某上市公司數據分析師。 學習入口:https://edu.cda.cn/g ...
2025-05-09CDA持證人簡介 程靖 CDA會員大咖,暢銷書《小白學產品》作者,13年頂級互聯網公司產品經理相關經驗,曾在百度、美團、阿里等 ...
2025-05-07相信很多做數據分析的小伙伴,都接到過一些高階的數據分析需求,實現的過程需要用到一些數據獲取,數據清洗轉換,建模方法等,這 ...
2025-05-06以下的文章內容來源于劉靜老師的專欄,如果您想閱讀專欄《10大業務分析模型突破業務瓶頸》,點擊下方鏈接 https://edu.cda.cn/g ...
2025-04-30CDA持證人簡介: 邱立峰 CDA 數據分析師二級持證人,數字化轉型專家,數據治理專家,高級數據分析師,擁有豐富的行業經驗。 ...
2025-04-29CDA持證人簡介: 程靖 CDA會員大咖,暢銷書《小白學產品》作者,13年頂級互聯網公司產品經理相關經驗,曾在百度,美團,阿里等 ...
2025-04-28CDA持證人簡介: 居瑜 ,CDA一級持證人國企財務經理,13年財務管理運營經驗,在數據分析就業和實踐經驗方面有著豐富的積累和經 ...
2025-04-27數據分析在當今信息時代發揮著重要作用。單因素方差分析(One-Way ANOVA)是一種關鍵的統計方法,用于比較三個或更多獨立樣本組 ...
2025-04-25CDA持證人簡介: 居瑜 ,CDA一級持證人國企財務經理,13年財務管理運營經驗,在數據分析就業和實踐經驗方面有著豐富的積累和經 ...
2025-04-25在當今數字化時代,數據分析師的重要性與日俱增。但許多人在踏上這條職業道路時,往往充滿疑惑: 如何成為一名數據分析師?成為 ...
2025-04-24