作者：CDA數據分析師

大數據分析與數據分析這幾年一直都是個高頻詞，很多人都開始紛紛轉行到這個領域，也有不少人開始躍躍欲試，想找準時機進到大數據或數據分析領域。如今大數據分析和數據分析火爆，要說時機，可謂處處都是時機，關鍵要明了的一點是，大數據分析和數據分析兩者的根本區別在哪里，只有真正了解了，才會知曉更加適合自己的領域是大數據分析師還是數據分析師。畢竟職場如戰場，時間就是生活，不容兒戲，更不容怠慢。下面我來好好告訴大家兩者的本質區別到底是什么！

大數據分析：指無法在可承受的時間范圍內用常規軟件工具進行捕捉、管理和處理的數據集合。是需要新處理模式才能具有更強的決策力、洞察發現力和流程優化能力的海量、高增長率和多樣化的信息資產。

在維克托·邁爾-舍恩伯格及肯尼斯·庫克耶編寫的《大數據時代》 中大數據分析指不用隨機分析法（抽樣調查）這樣的捷徑，而采用所有數據進行分析處理，因此不用考慮數據的分布狀態（抽樣數據是需要考慮樣本分布是否有偏，是否與總體一致）也不用考慮假設檢驗，這點也是大數據分析與一般數據分析的一個區別。

數據分析是指用適當的統計分析方法對收集來的大量數據進行分析，提取有用信息和形成結論而對數據加以詳細研究和概括總結的過程。

大數據分析與數據分析最核心的區別是處理的數據規模不同，由此導致兩個方向從業者的技能也是不同的。在CDA人才能力標準中從理論基礎、軟件工具、分析方法、業務分析、可視化五個方面對數據分析師與大數據分析師進行了定義。

【數據分析師的要求】

數據分析師的理論要求：統計學、概率論和數理統計、多元統計分析、時間序列、數據挖掘。

工具要求：必要：Excel、SQL可選：SPSS MODELER、R、Python、SAS等

分析方法要求：除掌握基本數據處理及分析方法以外，還應掌握高級數據分析及數據挖掘方法（多元線性回歸法，貝葉斯，神經網絡，決策樹，聚類分析法，關聯規則，時間序列，支持向量機，集成學習等）和可視化技術。

業務分析能力：可以將業務目標轉化為數據分析目標；熟悉常用算法和數據結構，熟悉企業數據庫構架建設；針對不同分析主體，可以熟練的進行維度分析，能夠從海量數據中搜集并提取信息；通過相關數據分析方法，結合一個或多個數據分析軟件完成對海量數據的處理和分析。

結果展現能力：報告體現數據挖掘的整體流程，層層闡述信息的收集、模型的構建、結果的驗證和解讀，對行業進行評估，優化和決策。

【大數據分析師的要求】

理論要求：統計學、概率論和數據庫、數據挖掘、JAVA基礎、Linux基礎。

工具要求：必要： SQL、Hadoop、HDFS、Mapreduce、Mahout、Hive、Spark
可選：RHadoop、Hbase、ZooKeeper等

分析方法要求：熟練掌握hadoop集群搭建；熟悉nosql數據庫的原理及特征，并會運用在相關的場景；熟練運用mahout、spark提供的進行大數據分析的數據挖掘算法，包括聚類（kmeans算法、canopy算法）、分類（貝葉斯算法、隨機森林算法）、主題推薦（基于物品的推薦、基于用戶的推薦）等算法的原理和使用范圍。

業務分析能力：熟悉hadoop+hive+spark進行大數據分析的架構設計，并能針對不同的業務提出大數據架構的解決思路。掌握hadoop+hive+ Spark+tableau平臺上Spark MLlib、SparkSQL的功能與應用場景，根據不同的數據業務需求選擇合適的組件進行分析與處理。并對基于Spark框架提出的模型進行對比分析與完善。

結果展現能力：報告能體現大數據分析的優勢，能清楚地闡述數據采集、大數據處理過程及最終結果的解讀，同時提出模型的優化和改進之處，以利于提升大數據分析的商業價值。

綜上大數據分析與數據分析的根本區別就是分析的思維與分析所用的工具不同。大家在求職或轉行過程認清自己對兩者的偏好和自己的興趣所在，以及自己的能力更適合在哪個領域發揮，還有自己所在城市對兩者的職業需求，綜合天時地利人和三個條件，我們才能做出更理智更客觀更科學的抉擇。