統計建模和機器學習的區別之我見

最近我多次被問到統計(尤其是統計建模)、機器學習和人工智能之間有何區別。其實這三者之間在目標、技術和算法方面有很多重疊的部分。引起困惑的原因不僅僅是因為這些重疊部分，也是因為我們被很多非科普文中的時髦詞兒給迷惑了。

統計建模

統計建模最基本的目標是回答一個問題：哪一種概率模型可以產生我所觀察到的數據?因此你必須：

? 從一個合理的模型群里挑出候選模型

? 預估未知變量(參數，Aka擬合模型到數據中)

? 比較擬合模型與其他備選模型

舉個例子，如果你的數據需要計算，例如流失客戶數或者細胞分裂數，那么泊松模型(Poisson)、負二項模型或者零膨脹模型(zero-inflated model)都可能適用。

一旦某統計模型被選定，那預估模型將用于測試假設、創建預測值以及置信測量。預估模型將成為我們解析數據的透鏡。我們從未宣稱選定模型就能產生數據，但是我們能觀察它基于某驗證推理在隨機過程所獲取的合理近似值。

驗證推理是統計建模的一個重要部分。舉例而言，要決策到底是哪一種或者哪三種醫療設備可以讓病患獲得最好的治療，你也許會感興趣使用一個模型，該模型能捕獲某種數據機制來判斷該病患在接受不同治療所獲得的不同結果。如果某個模型可以很好地捕獲數據產生機制，那么其也可以在那些被觀察數據區間內做出很好的預測，甚至可能預測出新的觀察結果。

經典機器學習

經典機器學習是一種數據驅動型技術，受模式識別啟動，專注于回歸算法和分類算法。其潛在的隨機機制通常并沒有作為最首要一項關注點。當然很多機器學習技術也能通過隨機模型和回歸計算來定義，但是數據并不被認為是由其模型直接生成的。因此，最重要的關注點是識別到底是執行哪項特定任務的算法還是技術鑒定(或者集成方法)：也就是說客戶到底最好被分段于K(數據集群或聚類)，還是DBSCAN，或者是決策樹，或者是隨機森林，又或者是SVM?

簡而言之，對統計人員來說模型是第一位的，對機器學習者而言，數據是第一位的。因為機器學習的終點是數據，而不是模型。將數據分離出來去做訓練集和測試集的驗證技術(鑒定方法)是很重要的。一個解決方案的質量高低并不僅僅依賴p-值，而是需要證明這個解決方案在以前不可見數據中是否表現良好。將一個統計模型擬合到一個數據集，或者將一個決策樹訓練成一個數據集，將會需要融合一些未知值的預估值。該決策樹的最佳分割點取決于從屬變量的條件分布參數的預估值。

對我而言，沒有什么技術被證明可以自我學習。訓練才是成型某種學習的必要過程，換句話說，這意味著要獲取一項新的技能技術，訓練就是學習的一部分。訓練深度神經網絡取決于輸入數據的權重和偏差，如果它學習分類，而該網絡就變形成為一個分類器。

現代機器學習

機器學習系統如果不是編程去執行一個任務，而是編程去學習執行一項任務，那么這就是一個真正的學習系統，我把這叫做現代機器學習。就像經典機器學習的變體，這也是一個數據驅動型的實踐。但不一樣的地方是，現代機器學習不僅僅是依賴于豐富的算法技術，幾乎所有的這類機器學習的應用都基于深度神經網絡技術。

這個領域我們現在傾向于稱它為深度學習，一種機器學習的細分，經常應用于人工智能，也就是說讓機器去執行人類的任務。

數據扮演什么角色?

現在我們可以通過數據所承擔的角色來區分統計建模、經典機器學習和現代機器學習。

在統計建模里面，數據引導我們去選擇隨機模型，來形成對不同問題概率的抽象表達，例如假設、預測和預報。

在經典機器學習里，數據驅動的是對分析技術的選擇，如何最佳地執行即將任務，這是數據訓練算法。

在現代機器學習里，數據驅動基于神經網絡算法的系統，去學習具體任務，系統可以自動判定數據常量規則。在訓練神經網絡數據的過程中，系統逐漸學習到執行任務，就像某人所說：“是數據在做編程?！?