R語言利用caret包比較模型性能差異

我們可以通過重采樣的方法得對每一個匹配模型的統計信息，包括ROC曲線，靈敏度與特異度，然后基于這些統計信息來比較不同模型的性能差異。
操作
利用上節的信息，準備好glm分類模型，svm分類模型，rpart分類模型，并存放在glm.model,svm.model,rpart.model。
cv.values = resamples(list(glm = glm.model,svm =svm.model,rpart = rpart.model))
> summary(cv.values)

Call:
summary.resamples(object = cv.values)

Models: glm, svm, rpart
Number of resamples: 30

ROC
           Min.   1st Qu.    Median      Mean   3rd Qu.      Max. NA's
glm   0.7597790 0.7927740 0.8040455 0.8106454 0.8347961 0.8760824    0
svm   0.8191998 0.8786439 0.8945208 0.8947360 0.9196775 0.9562556    0
rpart 0.6064540 0.7150320 0.7608241 0.7556544 0.8086731 0.8554750    0

Sens
            Min.   1st Qu.    Median      Mean   3rd Qu.      Max. NA's
glm   0.08823529 0.1764706 0.2058824 0.2124930 0.2516807 0.3235294    0
svm   0.44117647 0.5294118 0.5882353 0.5956863 0.6470588 0.7941176    0
rpart 0.20000000 0.4117647 0.4705882 0.4787955 0.5514706 0.7352941    0

Spec
           Min.   1st Qu.    Median      Mean   3rd Qu.      Max. NA's
glm   0.9393939 0.9645119 0.9721581 0.9702721 0.9796954 0.9898477    0
svm   0.9494949 0.9695431 0.9771574 0.9755004 0.9847716 0.9898990    0
rpart 0.9492386 0.9746193 0.9796954 0.9780359 0.9848485 1.0000000    0

使用dotplot函數繪制重采樣在ROC曲線度量中的結果：

dotplot(cv.values,metric = "ROC")

使用箱線圖繪制重采樣結果：

bwplot(cv.values,layout=c(3,1))

重采樣結果箱線圖

說明

我們使用resample函數生成各個模型的統計信息，再調用summary函數輸出三個模型在ROC、靈敏度及特異性上的統計信息。使用dotplot方法處理重采樣結果來觀測不同模型ROC差異，最后，采用箱線圖在同一張圖上對ROC、靈敏度及特異方面的差別進行比較。