大數據分析重大 計算方法選擇需慎重_數據分析師考試

大數據分析依靠機器學習和大規模計算，對規模巨大的數據進行分析。作為時下最火熱的IT行業的詞匯，數據倉庫、數據安全、數據分析、數據挖掘等等圍繞大數據的商業價值的利用逐漸成為行業人士爭相追捧的利潤焦點。大數據時代的來臨，大數據分析應運而生。

　　安聯全球救援長期從事道路救援已有12年，利用大數據分析科學分析救援數據，在第一時間內合理調配救援資源，并在最短時間內通知相關部門展開對應的援助。2015年7月6日，安聯全球救援在北京慶祝在華第500萬個成功道路救援案例誕生。在過去的12年里，安聯全球救援投入了大量資金和資源在全國范圍內建立專業服務網絡，并分別在北京和成都設立運營中心，其網絡覆蓋全國1762個城市，平均服務到達時間為39分鐘。利用大數據分析，大大提高了道路救援效率。

　　那么大數據分析究竟是怎么樣？那些方法更有效？我們該如何利用起來呢？

　　大數據分析可以分為五個基本方面：

　　1.可視化分析（Analytic Visualizations）——不管是對數據分析專家還是普通用戶，數據可視化是數據分析工具最基本的要求?？梢暬梢灾庇^的展示數據，讓數據自己說話，讓觀眾聽到結果。

　　2.數據挖掘算法（Data Mining Algorithms）——可視化是給人看的，數據挖掘就是給機器看的。集群、分割、孤立點分析還有其他的算法讓我們深入數據內部，挖掘價值。這些算法不僅要處理大數據的量，也要處理大數據的速度。

　　3.預測性分析能力（Predictive Analytic Capabilities）——數據挖掘可以讓分析員更好的理解數據，而預測性分析可以讓分析員根據可視化分析和數據挖掘的結果做出一些預測性的判斷。

　　4.義引擎（Semantic Engines）——我們知道由于非結構化數據的多樣性帶來了數據分析的新的挑戰，我們需要一系列的工具去解析，提取，分析數據。語義引擎需要被設計成能夠從“文檔”中智能提取信息。

　　5.數據質量和數據管理（Data Qualityand Master Data Management）——數據質量和數據管理是一些管理方面的最佳實踐。通過標準化的流程和工具對數據進行處理可以保證一個預先定義好的高質量的分析結果。

　　大數據分析方法的選擇

　　大數據分析性能的好壞，也就是說機器學習預測的準確率，與使用的學習算法、問題的性質、數據集的特性包括數據規模、數據特征等都有關系。一般地，Ensemble方法包括Random Forest和Ada Boost、SVM、Logistic Regression分類準確率最高。沒有一種方法可以“包打天下”。RandomForest、SVM等方法一般性能最好，但不是在什么條件下性能都最好。

　　不同的方法，當數據規模小的時候，性能往往有較大差異，但當數據規模增大時，性能都會逐漸提升且差異逐漸減小。也就是說，在大數據條件下，什么方法都能work的不錯。對于簡單問題，Random Forest、SVM等方法基本可行，但是對于復雜問題，比如語音識別、圖像識別，最近流行的深度學習方法往往效果更好。深度學習本質是復雜模型學習，是今后研究的重點。

　　在實際應用中，要提高分類的準確率，選擇特征比選擇算法更重要。好的特征會帶來更好的分類結果，而好的特征的提取需要對問題的深入理解。

　　大數據分析策略分析

　　建立大數據分析平臺時，選擇實現若干種有代表性的方法即可。當然，不僅要考慮預測的準確率，還有考慮學習效率、開發成本、模型可讀性等其他因素。大數據分析平臺固然重要，同時需要有一批能夠深入理解應用問題，自如使用分析工具的工程師和分析人員。

　　只有善工利器，大數據分析才能真正發揮威力。