如何提高你的數據分析能力

第一步：數據準備（80%時間）

獲取數據(爬蟲，數據倉庫)

驗證數據

數據清理(缺失值、孤立點、垃圾信息、規范化、重復記錄、特殊值、合并數據集)

使用python進行文件讀取csv或者txt便于操作數據文件(I/O和文件串的處理，逗號分隔)

抽樣(大數據時。關鍵是隨機)

存儲和歸檔

第二步：數據觀察（發現隱藏的規律）

單一變量：點圖、抖動圖;直方圖、核密度估計;累計分布函數

兩個變量：散點圖、LOESS平滑、殘差分析、對數圖、傾斜

多個變量：假色圖、馬賽克圖、平行左邊圖

第三步：數據建模

推算和估算(均衡可行性和成本消耗)

縮放參數模型(縮放維度優化問題)

建立概率模型(二項、高斯、冪律、幾何、泊松分布與已知模型對比)

第四步：數據挖掘

選擇合適的機器學習算法(蒙特卡洛模擬，相似度計算，主成分分析)

大數據考慮用Map/Reduce

得出結論，繪制最后圖表

循環到第二步到第四步，進行數據分析，根據圖表得出結論完成文章。

二、以業務為核心做數據分析

“無尺度網絡模型”的作者艾伯特-拉斯洛·巴拉巴西認為——人類93%的行為是可以預測的。數據作為人類活動的痕跡，就像金礦等待發掘。但是首先你得明確自己的業務需求，數據才可能為你所用。

1.數據為王、業務是核心

了解整個產業鏈的結構

制定好業務的發展規劃

衡量的核心指標有哪些

有了數據必須和業務結合才有效果。首先你需要摸清楚所在產業鏈的整個結構，對行業的上游和下游的經營情況有大致的了解。然后根據業務當前的需要，指定發展計劃，從而歸類出需要整理的數據。

最后一步詳細的列出數據核心指標(KPI)，并且對幾個核心指標進行更細致的拆解，當然具體結合你的業務屬性來處理，找出那些對指標影響幅度較大的影響因子。前期資料的收集以及業務現況的全面掌握非常關鍵。

2.思考指標現狀，發現多維規律

熟悉產品框架，全面定義每個指標的運營現狀

對比同行業指標，挖掘隱藏的提升空間

拆解關鍵指標，合理設置運營方法來觀察效果

爭對核心用戶，單獨進行產品用研與需求挖掘

發現規律不一定需要很高深的編程方法，或者復雜的統計公式，更重要的是培養一種感覺和意識。

不能用你的感覺去揣測用戶的感覺，因為每個人的教育背景、生活環境都不一樣。很多數據元素之間的關系沒有明顯的顯示，需要使用直覺與觀察(數據可視化技術來呈現)。

3.規律驗證，經驗總結

發現了規律之后不能立刻上線，需要在測試機上對模型進行驗證。