
前邊我們用兩篇筆記討論了線性回歸的內容。線性回歸是很重要的一種回歸方法,但是線性回歸只適用于因變量為連續型變量的情況,那如果因變量為分類變量呢?比方說我們想預測某個病人會不會痊愈,顧客會不會購買產品,等等,這時候我們就要用到logistic回歸分析了。
Logistic回歸主要分為三類,一種是因變量為二分類得logistic回歸,這種回歸叫做二項logistic回歸,一種是因變量為無序多分類得logistic回歸,比如傾向于選擇哪種產品,這種回歸叫做多項logistic回歸。還有一種是因變量為有序多分類的logistic回歸,比如病重的程度是高,中,低呀等等,這種回歸也叫累積logistic回歸,或者序次logistic回歸。
二值logistic回歸:
選擇分析——回歸——二元logistic,打開主面板,因變量勾選你的二分類變量,這個沒有什么疑問,然后看下邊寫著一個協變量。有沒有很奇怪什么叫做協變量?在二元logistic回歸里邊可以認為協變量類似于自變量,或者就是自變量。把你的自變量選到協變量的框框里邊。
細心的朋友會發現,在指向協變量的那個箭頭下邊,還有一個小小的按鈕,標著a*b,這個按鈕的作用是用來選擇交互項的。我們知道,有時候兩個變量合在一起會產生新的效應,比如年齡和結婚次數綜合在一起,會對健康程度有一個新的影響,這時候,我們就認為兩者有交互效應。那么我們為了模型的準確,就把這個交互效應也選到模型里去。我們在右邊的那個框框里選擇變量a,按住ctrl,在選擇變量b,那么我們就同時選住這兩個變量了,然后點那個a*b的按鈕,這樣,一個新的名字很長的變量就出現在協變量的框框里了,就是我們的交互作用的變量。
然后在下邊有一個方法的下拉菜單。默認的是進入,就是強迫所有選擇的變量都進入到模型里邊。除去進入法以外,還有三種向前法,三種向后法。一般默認進入就可以了,如果做出來的模型有變量的p值不合格,就用其他方法在做。再下邊的選擇變量則是用來選擇你的個案的。一般也不用管它。
選好主面板以后,單擊分類(右上角),打開分類對話框。在這個對話框里邊,左邊的協變量的框框里邊有你選好的自變量,右邊寫著分類協變量的框框則是空白的。你要把協變量里邊的字符型變量和分類變量選到分類協變量里邊去(系統會自動生成啞變量來方便分析,什么事啞變量具體參照前文)。這里的字符型變量指的是用值標簽標注過得變量,不然光文字,系統也沒法給你分析啊。選好以后,分類協變量下邊還有一個更改對比的框框,我們知道,對于分類變量,spss需要有一個參照,每個分類都通過和這個參照進行比較來得到結果,更改對比這個框框就是用來選擇參照的。默認的對比是指示符,也就是每個分類都和總體進行比較,除了指示符以外還有簡單,差值等。這個框框不是很重要,默認就可以了。
點擊繼續。然后打開保存對話框,勾選概率,組成員,包含協方差矩陣。點擊繼續,打開選項對話框,勾選分類圖,估計值的相關性,迭代歷史,exp(B)的CI,在模型中包含常數,輸出——在每個步驟中。如果你的協變量有連續型的,或者小樣本,那還要勾選Hosmer-Lemeshow擬合度,這個擬合度表現的會較好一些。
繼續,確定。
然后,就會輸出結果了。主要會輸出六個表。
第一個表是模型系數綜合檢驗表,要看他模型的p值是不是小于0.05,判斷我們這個logistic回歸方程有沒有意義。
第二個表示模型匯總表。這個表里有兩個R^2,叫做廣義決定系數,也叫偽R^2,作用類似于線性回歸里的決定系數,也是表示這個方程能夠解釋模型的百分之多少。由于計算方法不同,這兩個廣義決定系數的值往往不一樣,但是出入并不會很大。
在下邊的分類表則表述了模型的穩定性。這個表最后一行百分比校正下邊的三個數據列出來在實際值為0或者1時,模型預測正確的百分比,以及模型總的預測正確率。一般認為預測正確概率達到百分之五十就是良好(標準真夠低的),當然正確率越高越好。
在然后就是最重要的表了,方程中的變量表。第一行那個B下邊是每個變量的系數。第五行的p值會告訴你每個變量是否適合留在方程里。如果有某個變量不適合,那就要從新去掉這個變量做回歸。根據這個表就可以寫出logistic方程了:P=Exp(常量+a1*變量1+a2*變量2.。。。)/(1+Exp(常量+a1*變量1+a2*變量2.。。。))。如果大家學過一點統計,那就應該對這個形式的方程不陌生。提供變量,它最后算出來會是一個介于0和1的數,也就是你的模型里設定的值比較大的情況發生的概率,比如你想推算會不會治愈,你設0治愈,1為沒有治愈。那你的模型算出來就是沒有治愈的概率。如果你想直接計算治愈的概率,那就需要更改一下設定,用1去代表治愈。
此外倒數后兩列有一個EXP(B),也就是OR值,哦,這個可不是或者的意思,OR值是優勢比。在線性回歸里邊我們用標準化系數來對比兩個自變量對于因變量的影響力的強弱,在logistic回歸里邊我們用優勢比來比較不同的情況對于因變量的影響。舉個例子。比如我想看性別對于某種病是否好轉的影響,假設0代表女,1代表男,0代表不好轉,1代表好轉。發現這個變量的OR值為2.9,那么也就是說男人的好轉的可能是女人好轉的2.9倍。注意,這里都是以數值較大的那個情況為基準的。而且OR值可以直接給出這個倍數。如果是0,1,2各代表一類情況的時候,那就是2是1的2.9倍,1是0的2.9倍,以此類推。OR值對于方程沒什么貢獻,但是有助于直觀的理解模型。在使用OR值得時候一定要結合它95%的置信區間來進行判斷。
此外還有相關矩陣表和概率直方圖,就不再介紹了。
多項logistic回歸:
選擇分析——回歸——多項logistic,打開主面板,因變量大家都知道選什么,因變量下邊有一個參考類別,默認的第一類別就可以。再然后出現了兩個框框,因子和協變量。很明顯,這兩個框框都是要你選因變量的,那么到底有什么區別呢?嘿嘿,區別就在于,因子里邊放的是無序的分類變量,比如性別,職業什么的,以及連續變量(實際上做logistic回歸時大部分自變量都是分類變量,連續變量是比較少的。),而協變量里邊放的是等級資料,比如病情的嚴重程度啊,年齡?。ㄒ允隇橐粋€年齡段撒,一年一個的話就看成連續變量吧還是)之類的。在二項logistic回歸里邊,系統會自動生成啞變量,可是在多項logistic回歸里邊,就要自己手動設置了。參照上邊的解釋,不難知道設置好的啞變量要放到因子那個框框里去。
然后點開模型那個對話框,哇,好恐怖的一個對話框,都不知道是干嘛的。好,我們一點點來看。上邊我們已經說過交互作用是干嘛的了,那么不難理解,主效應就是變量本身對模型的影響。明確了這一點以后,這個對話框就沒有那么難選了。指定模型那一欄有三個模型,主效應指的是只做自變量和因變量的方程,就是最普通的那種。全因子指的是包含了所有主效應和所有因子和因子的交互效應的模型(我也不明白為什么只有全因子,沒有全協變量。這個問題真的很難,所以別追問我啦。)第三個是設定/步進式。這個是自己手動設置交互項和主效應項的,而且還可以設置這個項是強制輸入的還是逐步進入的。這個概念就不用再啰嗦了吧???
點擊繼續,打開統計量對話框,勾選個案處理摘要,偽R方,步驟摘要,模型擬合度信息,單元格可能性,分類表,擬合度,估計,似然比檢驗,繼續。打開條件,全勾,繼續,打開選項,勾選為分級強制條目和移除項目。打開保存,勾選包含協方差矩陣。確定(總算選完了)。
結果和二項logistic回歸差不多,就是多了一個似然比檢驗,p值小于0.05認為變量有意義。然后我們直接看參數估計表。假設我們的因變量有n個類,那參數估計表會給出n-1組的截距,變量1,變量2。我們我們用Zm代表Exp(常量m+am1*變量1+am2*變量2+。。。),那么就有第m類情況發生的概率為Zn/1+Z2+Z3+……+Zn(如果我們以第一類為參考類別的話,我們就不會有關于第一類的參數,那么第一類就是默認的1,也就是說Z1為1)。
有序回歸(累積logistic回歸):
選擇菜單分析——回歸——有序,打開主面板。因變量,因子,協變量如何選取就不在重復了。選項對話框默認。打開輸出對話框,勾選擬合度統計,摘要統計,參數估計,平行線檢驗,估計響應概率,實際類別概率,確定,位置對話框和上文的模型對話框類似,也不重復了。確定。
結果里邊特有的一個表是平行線檢驗表。這個表的p值小于0.05則認為斜率系數對于不同的類別是不一樣的。此外參數估計表得出的參數也有所不同。假設我們的因變量有四個水平,自變量有兩個,那么參數估計表會給出三個閾值a1,a2,a3(也就是截距),兩個自變量的參數m,n。計算方程時,首先算三個Link值,Link1=a1+m*x1+n*x2,Link2=a2+m*x1+n*x2,Link3=a3+m*x1+n*x2,(僅有截距不同)有了link值以后,p1=1/(1+exp(link1)), p1+p2=1/(1+exp(link2)), p1+p2+p3=1/(1+exp(link3)), p1+p2+p3+p4=1..
通過上邊的這幾個方程就能計算出各自的概率了。
Logistic回歸到這里基本就已經結束了。大家一定要記熟公式,弄混可就糟糕了。希望能對你有所幫助呦。
下章內容,probit回歸及非線性回歸。
數據分析咨詢請掃描二維碼
若不方便掃碼,搜微信號:CDAshujufenxi
CDA數據分析師證書考試體系(更新于2025年05月22日)
2025-05-26解碼數據基因:從數字敏感度到邏輯思維 每當看到超市貨架上商品的排列變化,你是否會聯想到背后的銷售數據波動?三年前在零售行 ...
2025-05-23在本文中,我們將探討 AI 為何能夠加速數據分析、如何在每個步驟中實現數據分析自動化以及使用哪些工具。 數據分析中的AI是什么 ...
2025-05-20當數據遇見人生:我的第一個分析項目 記得三年前接手第一個數據分析項目時,我面對Excel里密密麻麻的銷售數據手足無措。那些跳動 ...
2025-05-20在數字化運營的時代,企業每天都在產生海量數據:用戶點擊行為、商品銷售記錄、廣告投放反饋…… 這些數據就像散落的拼圖,而相 ...
2025-05-19在當今數字化營銷時代,小紅書作為國內領先的社交電商平臺,其銷售數據蘊含著巨大的商業價值。通過對小紅書銷售數據的深入分析, ...
2025-05-16Excel作為最常用的數據分析工具,有沒有什么工具可以幫助我們快速地使用excel表格,只要輕松幾步甚至輸入幾項指令就能搞定呢? ...
2025-05-15數據,如同無形的燃料,驅動著現代社會的運轉。從全球互聯網用戶每天產生的2.5億TB數據,到制造業的傳感器、金融交易 ...
2025-05-15大數據是什么_數據分析師培訓 其實,現在的大數據指的并不僅僅是海量數據,更準確而言是對大數據分析的方法。傳統的數 ...
2025-05-14CDA持證人簡介: 萬木,CDA L1持證人,某電商中廠BI工程師 ,5年數據經驗1年BI內訓師,高級數據分析師,擁有豐富的行業經驗。 ...
2025-05-13CDA持證人簡介: 王明月 ,CDA 數據分析師二級持證人,2年數據產品工作經驗,管理學博士在讀。 學習入口:https://edu.cda.cn/g ...
2025-05-12CDA持證人簡介: 楊貞璽 ,CDA一級持證人,鄭州大學情報學碩士研究生,某上市公司數據分析師。 學習入口:https://edu.cda.cn/g ...
2025-05-09CDA持證人簡介 程靖 CDA會員大咖,暢銷書《小白學產品》作者,13年頂級互聯網公司產品經理相關經驗,曾在百度、美團、阿里等 ...
2025-05-07相信很多做數據分析的小伙伴,都接到過一些高階的數據分析需求,實現的過程需要用到一些數據獲取,數據清洗轉換,建模方法等,這 ...
2025-05-06以下的文章內容來源于劉靜老師的專欄,如果您想閱讀專欄《10大業務分析模型突破業務瓶頸》,點擊下方鏈接 https://edu.cda.cn/g ...
2025-04-30CDA持證人簡介: 邱立峰 CDA 數據分析師二級持證人,數字化轉型專家,數據治理專家,高級數據分析師,擁有豐富的行業經驗。 ...
2025-04-29CDA持證人簡介: 程靖 CDA會員大咖,暢銷書《小白學產品》作者,13年頂級互聯網公司產品經理相關經驗,曾在百度,美團,阿里等 ...
2025-04-28CDA持證人簡介: 居瑜 ,CDA一級持證人國企財務經理,13年財務管理運營經驗,在數據分析就業和實踐經驗方面有著豐富的積累和經 ...
2025-04-27數據分析在當今信息時代發揮著重要作用。單因素方差分析(One-Way ANOVA)是一種關鍵的統計方法,用于比較三個或更多獨立樣本組 ...
2025-04-25CDA持證人簡介: 居瑜 ,CDA一級持證人國企財務經理,13年財務管理運營經驗,在數據分析就業和實踐經驗方面有著豐富的積累和經 ...
2025-04-25