
什么卡住了大數據應用的發展
要想考察大數據最好同時考察大數據背后的技術、商業和社會維度。從發展成熟度來看,技術維度走的最遠、商業維度有所發展但不算全面成熟,社會維度發展最差。所以雖然已經談了很久大數據,但除了孕育出大數據自身的幾個領域比如搜索等,其它領域卻并沒有從大數據中獲得可見的收益。大多時候人們還是處在覺得這里肯定有金子,但需要更多的耐心的狀態。這篇文章則嘗試對大數據本身的特征做點挖掘,對未來的發展趨勢做點預測。
大數據上的深度和廣度
如果把大數據對應到海量的數據,那它就是非常含糊的概念,相當于變成信息的同義詞,顯然也就很難回答信息到底能干什么這樣的問題。
這時候為了推進思考通常需要先分類。如果把時間空間作為最基本的視角,那首先要區分的就是大數據的深度和廣度。從時間的角度看大數據是完整的歷史,從空間的角度看大數據是全球活動的痕跡。前者可以看成一種深度,后者可以看成一種廣度,不同的場景對深度和廣度的側重有所不同。
對于有些垂直的行業,比如醫療,大數據的深度更重要,所有的歷史都可以在數據上找到之后,人們就可以更好的認知并優化相應的行業。
對社會而言,很多時候廣度則更重要,具體到某個場景我們只有一鱗半爪的消息,但當這種信息足夠多,范圍足夠廣,就有可能描述出相對及時的全貌。經常舉的Google預測傳染病的例子依賴的就是這種廣度。
這點決定了大數據的應用發展趨勢,在深度重要的地方,公司這類組織需要成為主體,困難是如何跨越數據所有權的邊界。對于醫院而言,顯然把所有治療案例數據化并共享是有好處的,但如果只有一個醫院這么做,那對這一家醫院而言更多的可能是隱私上反彈所帶來的壞處。
在廣度重要的地方,雖然在搜索這樣的領域里公司也可以受益,但真正可以從大數據全面受益的機構其實是政府。數據越廣,其所描述的主體就越大,而如果描述的是整個社會,那顯然應該是社會的主要責任人會從中受益。這是個常識問題,就和看病的時候不會吃了醫生給別人開的藥自己反倒好了差不多。有的時候央視會播放百度做的春節期間人員流動圖,這件事情也正好可以從側面說明這問題——這種人員流動地圖對能做出地圖的人公司幫助,遠沒有對政府的幫助大。
簡單總結下就是:深度和廣度兩個方向對數據的要求不同,前者需要更為詳盡、有質量的數據源,后者則對此要求不高,但兩者在應用的時候都會面臨付出與回報不對等問題。大數據傾向于描述整體,而有能力收集或處理大數據的往往是個體,個體的回報在整體的提升中并不容易獲得清晰體現。
所以說現在大數據發展的瓶頸不是技術,而是背后所需要的分配關系的建立。這種關系理不順,數據就會停留在孤島層面,每個組織都有自己的東西,并把它命名為“大數據”。而為了理順這種關系則要回到一個非常經典的問題,“公地”到底可不可以建立。
數據公地的設想
大數據其實有點像公地,在經濟學里非常出名的一個論點是公地悲劇?!睹绹洕贰放e了一個非常易懂的例子來說什么是公地悲?。?/span>
……這些經濟推理命題有利于解釋集體所有制和產出的共享(平分或固定份額)如何導致“免費搭車者”問題。為了說明這一點,考慮共享土地所有權,且共同生產了100蒲式耳玉米的10個工人,平均每人消費10蒲式耳玉米。假設一個工人開始偷懶并將其勞動努力減半,從而導致產出減少5蒲式耳。由于產出共享制度的安排,偷懶者的消費量和其它工人一樣,現在都是9.5蒲式耳。盡管他的努力已經下降了50%,但他的消費量只下降了5%。偷懶者是在搭他人勞動的便車……
這背后有非常深刻的人性問題,即使我們可以通過努力協作創造更多的財富,個人也可以從中分享更多,但在群體里明顯的個人傾向則是自己工作更少但分享更多。這與囚徒困境其實是相通的。
基于實物的世界里眼下看不到徹底解決這問題的方法,只能依賴于某種被大家基本認可的分配秩序,比如:以前的血統現在的物競天擇,但基于比特的數字財富眼下看卻有解決這問題的可能。
基于比特的數據與實物最大的區別是數據并非是“你拿走我就沒有”的東西,并且硬件的價格在飛速下降,開源又使數據的訪問工具基本免費。這幾者疊加在一起,使數據公地成為可能。
這里面很有意思的問題是,如果大家更在意我拿到的東西是不是絕對值變大了,那數據公地的形成可能性就大些,因為如果存在數據公地,那每個人(企業)一定收獲更多,但如果大家更在意我是不是比你多,那數據公地的建設就會多很多障礙,因為公地其實是讓相關人員站到同樣的競爭起點上。
大數據的問題,在數據的使用上是技術問題,但在數據源上其實是社會經濟問題,后者更難,所以大數據應用的發展不取決于技術的發展,而取決于社會經濟方式的變革速度。在有限的領域里,比如搜索、電商、云計算,技術已經得到比較充分的發展,眼下來看誰付出誰受益的問題是把小數據變成大數據過程中最主要的問題。
大數據的路往那里走?
數據的內在發展動力是數據越全價值越大,其實這也是一種網絡效應,這種內在動力導致宏觀來看數據所有權的發展只有兩種趨勢:
1.一種是像現在移動端一樣,每個人都有自己的私有數據源,接下來開始你死我活的競爭,最終有一家活下來,這也可以達成數據統一的終極目標就;
2.另一種則是在競爭中開始聯合,建設上面所說的數據公地。
如前所述行業數據和全社會的數據性質上差別很大,所以要分開來探討。
對于行業數據而言,競爭對手間彼此的坦誠合作除非有極為特別的人物出現,否則是不太可能的。這種情況下最簡單的辦法是引入第三方。比如說每家運營商都握有幾乎所有網民的行動數據,但要想讓運營商彼此間開誠布公的合作,把這些數據整合在一起創造某種價值,這就很難。這時候如果有第三方介入,制定好利益分配方案那就是可能的。
如果這點可以達成,那唯一的關鍵點就是相應的商業模式是不是可以超越數據處理的成本。這點必須強調下的是,大數據的價值密度是很稀疏的,很多東西有價值但并不一定值得做,視頻網站之所以賺不到錢一個關鍵原因就是帶寬和存儲的成本比較高,而對大數據而言商業模式找不好,情形可能比視頻網站還差。挖礦的成本怎么也要小于挖礦所得,挖礦才有價值。
上述問題在行業數據里可能問題還不是太大,一般來講行業數據的價值密度會大一些,并且因為相對比較垂直,總量終究有限制。所以大數據的行業應用比較容易發展。
但對社會性的數據,這在很多時候就是個問題。我們都知道樣本的全面性比數據的多少更有價值,但是如果多是確保樣本全面性的唯一手段的話,那就意味必須有全的數據做一件事情才有意義。
社會化的數據有兩種應用方向,一種就是企業可以搞定的比如Google,一種則是屬于社會層面,很難單獨屬于某個企業的比如智慧城市相關的人的活動數據。后者則需要上面所說的數據公地來做支撐。
從數據的視角來看,現在有兩種數據存放形式:一種是Google這樣的企業擁有整個社會某個橫截面上的全部數據,這應該是種特例,并且數據會局限在公開信息;一種則是被割裂的各種與人行為相關的數據,比如購物相關的在電商,與人相關的在社交網絡和IM,線下服務相關的則在O2O企業,鐵路相關的在12306等。Google這種擁有全的數據,但并不擁有人的行為,所以說Google這種企業相當于擁有整個社會的一個橫截面的數據,而所有其它企業則只擁有某個垂直領域的數據。
如果依賴于企業做這種數據統一的嘗試,在前者就會有投資200億做O2O類的舉動,因為這會補全數據,在后者就會有做電商的想做社交,做社交的想做電商這類事發生。類似的故事還可以在終端上發生,所有這些行為的終極目標都是一家企業搞定所有這些事情,但這是不可能的,這種不可能還不單是經濟原因。而數據不能打通,那就只能在割裂的數據上做自以為是大數據的大數據。
所以說這骨子里是數據公地究竟能不能建立的問題,而要想建立數據公地,那至少要解決誰來做的問題,對此開源給出的啟示有兩點非常關鍵:
第一這不能是個盈利組織;
第二這要能獲得眾多企業的支持。
因為數據會牽涉隱私,所以同開源相比,那就一定還要有比較清晰的界定數據使用的規則。
小結
在有一種切實的辦法解決數據所有和使用權之前,大數據的應用應該還都是局部的。因為它的深度應用牽涉社會很多部分的彼此協調,所以這個過程可能是非常漫長的。這里面有意思的事情是,大數據的出現直接推動了機器智能的發展,而機器智能產生影響的速度可能會遠快于大數據本身。
數據分析咨詢請掃描二維碼
若不方便掃碼,搜微信號:CDAshujufenxi
CDA數據分析師證書考試體系(更新于2025年05月22日)
2025-05-26解碼數據基因:從數字敏感度到邏輯思維 每當看到超市貨架上商品的排列變化,你是否會聯想到背后的銷售數據波動?三年前在零售行 ...
2025-05-23在本文中,我們將探討 AI 為何能夠加速數據分析、如何在每個步驟中實現數據分析自動化以及使用哪些工具。 數據分析中的AI是什么 ...
2025-05-20當數據遇見人生:我的第一個分析項目 記得三年前接手第一個數據分析項目時,我面對Excel里密密麻麻的銷售數據手足無措。那些跳動 ...
2025-05-20在數字化運營的時代,企業每天都在產生海量數據:用戶點擊行為、商品銷售記錄、廣告投放反饋…… 這些數據就像散落的拼圖,而相 ...
2025-05-19在當今數字化營銷時代,小紅書作為國內領先的社交電商平臺,其銷售數據蘊含著巨大的商業價值。通過對小紅書銷售數據的深入分析, ...
2025-05-16Excel作為最常用的數據分析工具,有沒有什么工具可以幫助我們快速地使用excel表格,只要輕松幾步甚至輸入幾項指令就能搞定呢? ...
2025-05-15數據,如同無形的燃料,驅動著現代社會的運轉。從全球互聯網用戶每天產生的2.5億TB數據,到制造業的傳感器、金融交易 ...
2025-05-15大數據是什么_數據分析師培訓 其實,現在的大數據指的并不僅僅是海量數據,更準確而言是對大數據分析的方法。傳統的數 ...
2025-05-14CDA持證人簡介: 萬木,CDA L1持證人,某電商中廠BI工程師 ,5年數據經驗1年BI內訓師,高級數據分析師,擁有豐富的行業經驗。 ...
2025-05-13CDA持證人簡介: 王明月 ,CDA 數據分析師二級持證人,2年數據產品工作經驗,管理學博士在讀。 學習入口:https://edu.cda.cn/g ...
2025-05-12CDA持證人簡介: 楊貞璽 ,CDA一級持證人,鄭州大學情報學碩士研究生,某上市公司數據分析師。 學習入口:https://edu.cda.cn/g ...
2025-05-09CDA持證人簡介 程靖 CDA會員大咖,暢銷書《小白學產品》作者,13年頂級互聯網公司產品經理相關經驗,曾在百度、美團、阿里等 ...
2025-05-07相信很多做數據分析的小伙伴,都接到過一些高階的數據分析需求,實現的過程需要用到一些數據獲取,數據清洗轉換,建模方法等,這 ...
2025-05-06以下的文章內容來源于劉靜老師的專欄,如果您想閱讀專欄《10大業務分析模型突破業務瓶頸》,點擊下方鏈接 https://edu.cda.cn/g ...
2025-04-30CDA持證人簡介: 邱立峰 CDA 數據分析師二級持證人,數字化轉型專家,數據治理專家,高級數據分析師,擁有豐富的行業經驗。 ...
2025-04-29CDA持證人簡介: 程靖 CDA會員大咖,暢銷書《小白學產品》作者,13年頂級互聯網公司產品經理相關經驗,曾在百度,美團,阿里等 ...
2025-04-28CDA持證人簡介: 居瑜 ,CDA一級持證人國企財務經理,13年財務管理運營經驗,在數據分析就業和實踐經驗方面有著豐富的積累和經 ...
2025-04-27數據分析在當今信息時代發揮著重要作用。單因素方差分析(One-Way ANOVA)是一種關鍵的統計方法,用于比較三個或更多獨立樣本組 ...
2025-04-25CDA持證人簡介: 居瑜 ,CDA一級持證人國企財務經理,13年財務管理運營經驗,在數據分析就業和實踐經驗方面有著豐富的積累和經 ...
2025-04-25