從大數據崛起看大數據應用發展方向

時至今日，我們的數據管理能力日益提升，但數據分析能力則相對落后。盡管工具與流程皆已齊備，但仍然缺少充足的數據科學家人員。根據2012年《福布斯》雜志發表的文章，早期大數據技術采納方主要來自金融服務、電信、制造(特別是消費級產品)以及政府領域。

從大數據崛起看大數據應用發展方向
　　早期采納方在起步階段會使用其新近安裝的大數據基礎設施(例如HDFS、MapReduce以及NoSQL數據庫等等)以實驗各類新型應用。根據PacificCrest公司收集到的數據，各早期采納方往往希望利用這些方案處理數據中心日志信息(包括服務器、路由器以及各類物聯網傳感器等)，旨在實現網絡分析與IT系統性能監控。在此基礎之上，亦有相當一部分企業嘗試利用大數據技術進行財務數據(欺詐檢測)與Web數據(情感分析以實現個性化體驗)分析。
　　初步實驗對于了解大數據基礎設施收益、潛力與不足之處非常重要。然而根據CapGemini于2014年發布的報告，試水性實驗的成功比例并不算高。其失敗原因主要有三：1)將數據分散在多個不同團隊中，因此訪問難度較原始設計更高。2)數據被安置于遺留系統當中，導致將其導出至大數據基礎設施變得非常困難。3)缺少統一而明確的全局性數據管理與數據分析方案，這使得工作人員難以從數據內提取信息。而隨著此類問題的一一克服，近來我們發現成功案例變得愈發普遍。事實上，目前全球各地對于大數據基礎設施及其附加方案的興趣都呈現出快速升溫之勢。
　　企業向大數據技術投入的資金呈現增長之勢。根據NewVantage指出，受訪企業中有27%表示其將在2017年之前向大數據項目投入超過5000萬美元資金。而在2014年面向同樣企業對象的調查中，這一比例僅為5.4%。
　　目前，價值萬億美元的行業，包括醫療衛生、保險、農業、能源、醫藥、教育、汽車、運輸以及物流等等，都在積極探索如何利用大數據利器解決自己面臨的現實難題。舉例來說，汽車制造商希望分析消費者的信息娛樂選擇以提供更理想的車載信息娛樂體驗，同時亦需要分析車輛性能數據以提供預防性維護建議。另外，無線運營商也希望了解消費者如何使用其數據，從而更好地提供內容并實現營收。
　　考慮到以上提到的企業投資與變革力度，風險投資商們則更為積極地為大數據初創企業提供資金。單在2015年年內，風投方為大數據初創企業提供的資金總額就高達67億美元，超過2014年的60億美元。
　　出于同樣的理由，大數據初創企業也開始迎來一波收購浪潮。其中包括AOL收購Convertro，谷歌收購Adometry，蘋果收購Topsy，Teradata收購AsterData與ThinkBigAnalytics，Salesforce收購Edgespring等等。最近，我們還見證了微軟收購RevolutionAnalytics，HDS收購Pentaho以及Advance收購1010Data。除此之外，小規模收購亦層出不窮，包括Amazon收購Amiato等。
　　目前風投方的主要關注重點在于大數據基礎設施與工具。盡管基礎設施與工具部署同樣顯示出旺盛的生命力，但這里我們姑且將注意力集中在大數據應用身上。
　　信息技術中的每個新興領域(例如商務智能、客戶端/服務器計算、云計算以及移動計算等)通常都需要經歷三個發展階段：基礎設施部署。在大數據領域，此類基礎設施負責對數據進行存儲、管理、移動與傳輸。工具部署。在大數據領域，此類工具用于搜索并分析各種形式的大數據并呈現處理結果。應用程序引入，通常將基礎設施與工具轉化為實際功能。遵循這樣的分階段實現方式，眾多大型企業已經開始部署大數據基礎設施與多種工具，旨在分析收集到的海量數據。
　　由于我們已經進入應用開發與部署階段，因此最重要的是著眼于具體軟件。截至目前，我們已經發現了三種主要大數據應用類型：
　　淺層應用，包括執行客戶流失分析并圍繞通用型分析工具進行開發(例如Dataminr與DataRobot等)。這些應用由數據科學家負責支持，從而執行經過嚴格定義的任務流程。這些應用通常只能在運行基礎之上提供淺層分析能力。這些由分析模型與報告機制驅動的應用由數據科學家及服務專家進行開發與維護――他們往往來自管理咨詢企業，且充分理解相關業務領域及最終用戶需求。最終用戶通常為商業分析師。
　　應用能夠處理大數據，但無法實現任何形式的預測或預測性分析(例如Socrata及Zuora)。這類應用可能面向水平或垂直體系，其能夠為最終用戶――主要為商業分析師――提供理解數據并形成結論報告的能力。作為實例，紐約市就利用Socrata系統創建財務報告。
　　具備嵌入式預測性分析的應用。此類應用未來將分為以下兩種類別。包含預測模型，并由數據科學家負責開發與定期更新。這意味著應用供應商必須擁有強大的服務能力以支持軟件功能。此類應用包括AgileOne、OPower、ZephyrHealth、Duetto以及DataXu與MediaMath等在線廣告應用方案。
　　所使用的預測模型可由應用本身自動構建。此類應用廠商包括Oration與Namogoo。歸屬于這一類別的應用可能面向橫向(例如AgileOne與Namogoo)或垂直領域(例如OPower、Duetto或者Oration)。
　　這三種大數據應用類型可被視為應用領域的開創者，如今以其為基礎又有第四種見解型應用開始出現。之前提到的第三種應用同見解型應用最為接近，但二者間又存在著重要差異：其能夠做出預測，但無法形成見解。換言之，第三種應用無法根據預測結果執行對應操作。相反，它們依賴于用戶來識別特定預測結果并執行對應行為。
　　總結
　　盡管仍然面臨多種障礙(每一種新興技術在出現后都必須面對挑戰)，但大數據的早期采納方已經在相關項目當中積極投資，并將其部署至企業業務系統當中以解決各類關鍵性難題。為了實現大數據的跨行業處理潛能，各風險投資方都在積極為大數據初創企業提供援助，希望其解決方案能夠為大型企業客戶所采納。
　　考慮到已經陸續出現的大量大數據基礎架構及部署分析工具，多數企業開始將注意力轉向大數據應用程序。我們確定的這三種具體類型涵蓋了相繼出現的各類新型大數據應用。其中一些能夠提供預測結論，但卻無法實現見解與實際行動，這亦是大數據應用尚未徹底發展成熟的主要標志。在未來的文章中，我們將深入探討見解型應用――即第四類亦是最具發展前途的大數據應用類型。