如何用stata做穩健回歸

大量的線性回歸模型是基于最小二乘法實現的，但其仍存在一些局限性。比如說，樣本點出現許多異常點時，傳統的最小二乘法將不再適用，此時則可以使用穩健回歸（robust regression）代替最小二乘法。

操作

下面的穩健回歸使用的是犯罪數據，該數據來自Alan Agresti和Barbara Finlay的《社會科學統計方法》。變量包括美國各州編號（sid）、州名（state）、每10萬人犯罪案件數量（crime）、生活在貧困線以下人口的百分比（poverty）和單親人口百分比（single）等。我們選擇使用貧窮率和單狀況來預測犯罪率。

1. 獲取數據

   use https://stats.idre.ucla.edu/stat/stata/dae/crime, clear
   summarize crime poverty single
   

   導入數據，并描述各個變量的統計結果，輸出表格中包含樣本容量、平均數、標準差、最小值和最大值。

   
   

   

2. OLS回歸
   在穩健回歸之前，我們先進行OLS回歸，輸出結果如下。

   regress crime poverty single

   

3. 樣本點分析
   首先我們通過“lvr2plot”繪制殘差杠桿圖，通過識別離群點和高杠桿值點（杠桿點）進而識別強影響點。假如存在杠桿點的話，要確定哪些是bad leverage point，對于這些離群點我們要評估它對擬合模型的影響。

   lvr2plot, mlabel(state)

   
   由圖中我們可以看出，dc、ms、fl三個點殘差較大或者杠桿值比較高。庫克距離是杠桿值與殘差大小的綜合效應，一般而言，庫克距離大于1，則可認為該樣本點為強影響點。接下來我們計算各點的庫克距離（Cook’s Distance），并輸出結果。

   predict d1, cooksd clist state crime poverty single d1ifd1>4/51, noobs

   
   由結果可以看出，dc點庫克距離大于1，表明dc這一樣本點對于回歸結果會產生較強的影響，在之后的穩健回歸中我們會對dc點進行特殊處理。
   接下來我們分析數據的殘差。使用rstandard這一命令，它表示標準化殘差的絕對值。

   predict r1, rstandard gen absr1 = abs(r1) gsort -absr1 clist state absr1in1/10, noobs

   

4. 穩健回歸
   我們使用“rreg”命令進行穩健回歸，并輸出結果如下。

   rreg crime poverty single, gen(weight)

   
   對比最開始的OLS回歸，我們發現兩者差異較大。并且穩健回歸中的樣本點數量是50，OLS回歸中為51，這是因為經過前面的分析，由于dc這一異常值點對回歸結果影響較強，因此在穩健回歸中我們將其舍去。下面的操作表明在穩健回歸中，dc樣本點所占權重為零。

   clist state weightifstate =="dc", noobs

   
   下面的命令展示了其他權重較小的觀察值，一般而言，殘差較大的觀察值權重較小，例如我們之前提到的ms點。在OLS回歸中，所有樣本點的權重都是1，因此穩健回歸中越多的樣本點權重是1，其回歸結果與OLS結果越相近。

   sort weight clist sid state weight absr1 d1in1/10, noobs

   
   我們還可以通過繪制圓圈的方式形象地展現這一關系。下圖中橫坐標表示單親率，縱坐標表示犯罪率，每一個圓圈表示一個樣本點，圓心為該樣本點在坐標中的位置，圓圈直徑越大，表示該樣本點權重越大。

   twoway  (scatter crime single [weight=weight], msymbol(oh))ifstate !="dc"

   

5. 拓展
   我們在穩健回歸分析之后，可以使用許多后續估計命令，比如test、margin等。下面的操作是我們控制貧困率之后，在不同的單親率下預測犯罪率。我們發現，隨著單親率的提高，犯罪率也相應地上升。

   margins, at(single=(8(2)22)) vsquish