熱線電話:13121318867

登錄
首頁精彩閱讀數據科學和企業的數據能力建設
數據科學和企業的數據能力建設
2022-06-21
收藏
數據科學和企業的數據能力建設

教研部出品

編輯:葉不凡

隨著市場趨于成熟,要想保持企業的長期競爭力,產品和運營的改進工作需要越來越精細化。

在電商領域,客戶的留存率是一個很重要的指標,為了提升留存率,需要精細化地分析客戶是哪一步流失的,按照購買進程和先后順序設置關鍵的節點,分析這些節點的流失情況,從而得出客戶流失漏斗的模型。幫助我們通過對流失率高的環節進行精細化分析,查找原因,假設購物車在結算的時候用戶的使用體驗不好,在核對訂單數據時常莫名出現這樣或那樣的技術問題,支付方式的設計不夠友好等,根據這些原因就可以有的放矢的在產品和運營側做出改進了。

數據科學和企業的數據能力建設

在保險行業,為了提高銷售效率,可以先通過模型預測出用戶的銷售響應率,再根據用戶的響應情況將用戶分別劃分為幾等,交由不同級別的銷售人員進行跟進。我們總掛在嘴邊上談論的用戶畫像,增長黑客,產品畫像等等,實質上都是在為實現更精細化地運營或者產品做出改進。

這其中精細化對產品的改進和運營將視企業應用數據能力的高低從而對企業提出了很高的要求,因為這些改進和決策的制定肯定不能拍腦門或者憑經驗,它們需要建立在堅實、可靠的數據分析的結果之上。

企業數據能力其實就是企業應用數據的能力。這種能力總體上是由企業數據驅動業務的文化、具有特定技能的人以及具有特定功能的業務系統共同構成。

那么企業要如何建設這種數據能力來適應市場對于企業數據能力越來越高的要求呢?

從客戶留存率的分析過程中發現主要有以下三方面的工作:

  • 尋找數據
  • 加工數據
  • 分析數據并提出產品改進的建議

為了更好的支持這三方面的工作,我們可以從以下這幾點入手:

1.對業務數據的維護和管理。這其中包括數據倉庫/數據湖的建設,數據的標準、數據的質量、數據安全、數據模型等數據治理相關內容。不僅提高了尋找數據的效率,而且還保障了使用數據的安全。

2.基于特定主題的數據分析。包括基于各種業務指標的計算,數據建模等。

3.利用數據管理及分析的相關工具及平臺對各業務數據進行管理和分析。

由于以上三個方面對應了不同的專業領域,不僅企業需要的技能很不一樣,企業內部甚至常常需要分成不同的團隊來支持。數據的日常維護和管理需要數據工程能力,數據分析需要的是分析和建模的能力,工具平臺的開發則需要軟件開發能力。

除了包含大量的規范文檔定義、流程設計、溝通宣導等數據管理工作之外,還要在企業內部實現落地。通過工具平臺內的內建流程幫助企業數據管理的演進上更進一步。企業內部只需少量的數據管理專家,并通過配合數據平臺研發團隊來實現數據的管理。比如對于數據質量的管理,數據管理專家可以針對具體的業務數據定義專用的數據質量規則,如空值規則,值域范圍規則等。通過數據平臺將定義的這些規則進行落地。然后數據平臺定期運行腳本進行相應的數據質量檢查,并生成數據質量報告以及數據質量告警,幫助團隊進行數據質量改進的工作。

數據分析工作也同樣需要工具平臺的支持。即使能通過一個簡單的sql查詢語句就能實現的分析工作,也同樣需要提供一個查詢界面,慢慢的隨著分析工作趨于復雜,直接粗放的使用數據庫工具進行分析會越來越顯得吃力和低效。通過將分析細分為即席查詢分析,實時報表,建模分析,線上模型推理等內容。想要支持這些分析工作,沒有一個高效的工具平臺支撐是很難完成的。

如下圖所示:

數據科學和企業的數據能力建設

企業不僅要從需求端發展數據管理和數據分析能力,而且數據平臺的建設同樣不可或缺,而且數據平臺的成熟程度直接關系到數據管理和數據分析的效率。

慢慢地隨著企業的不斷發展壯大,數據平臺會越來越成為數據能力的核心內容。,隨著大量的數據平臺定制化需求被提出,數據平臺越來越難以滿足數據管理和數據分析的需求。

由于每個企業各自所處的情況不同,以上三個方面的工作量及對應的人員需求量也不盡相同。有的企業將數據相關工具和平臺建設通過外部的采購來實現,功能上會相對完善,并且只需要完成工具平臺的運維,管理流程落地和內部系統集成,并且工具平臺的相關研發人員也可以盡量減少。如果工具和平臺采用的是基于開源工具自建的,雖然會有較多的自定義功能,但這需要擴大工具平臺的研發團隊。當然也會有一些其他的企業,如果數據管理和數據分析人員擁有較強的軟件研發能力,那么工具平臺的研發可能就與數據管理和分析合并到工作中去了。

通過對數據工作的拆解和分析,也可以從以下幾個維度來思考企業數據能力的建設。

一、數據人才資源的建設

從能力及其角色要求上可以大致將數據人才分為數據工程師/數據架構師,數據分析師/數據科學家。作為對這些角色的定義。企業對這些角色的工作范圍和能力都有其相應的要求,這樣企業就可以根據自身具體情況規劃出符合自身文化的數據人才資源體系結構,從而在招聘和培養人才上面有一個整體的思路和規劃。

二、人員組織和協作

企業的組織結構一般分為職能型、項目型和矩陣型。

職能型組織一般是將核心的工作劃分為不同的功能部門,如產品,運營,銷售,財務,審計等,這些部門按照職責范圍大小組成從上到下的層級,最終形成金字塔型的結構。職能型組織結構一個典型的例子就是政府部門和一些傳統的大型國企。其優勢是利于各部門形成自己各自的專業優勢,劣勢是難以組成項目組以面向問題的方式解決企業問題。

項目型組織是以面向項目的方式組成項目組來實現人員組織和協作,其典型的例子是以外包業務為主的服務型公司。其優勢是解決問題的效率高,但是不容易積累沉淀組織能力。

矩陣型組織則是希望避免職能型組織帶來的部門墻問題,在職能型的基礎上引入項目組織形式,在項目需要時從各職能部門抽調人員形成項目組,由項目組來統一管理。矩陣型組織常常使得某一個角色存在多位領導,從而給員工晉升及工作安排帶來問題。

數據科學和企業的數據能力建設

對于一個中大型企業而言,可以通過設立數據部并且將內部進一步細分為數據管理、數據分析、數據工具平臺研發三類角色崗位,形成職能型的垂直組織結構。并且從各類細分角色抽調一部分人組成項目組以支撐業務數據分析工作。這樣就形成了矩陣型的組織結構。

通過對以上組織結構的分析,企業要想做好數據工作,肯定還得涉及到很多需要更多智慧的管理工作細節。

三、數據工具平臺建設

企業的工具平臺往往是數據能力的依托和沉淀。數據管理中的標準和流程需要工具平臺的支持否則很容易變成空中樓閣。而數據分析當中的一些工作也需要沉淀,如果不能在組織內進行交流和分享,那么企業的數據分析就變成了只是靠數據分析師自身的能力罷了。

一般我們將工具平臺的建設劃分為三種模式:

1.外部采購。時間成本可以節省不少,但需要注意采購的產品的功能邊界,并注意該產品是否可以和內部系統有效集成,是否可以支持靈活的功能定制。

2.自建。一般考慮根據開源的項目進行改造,這樣的方式的優勢是可定制能力極強,其缺點就是需要大量的相關人才資源做支撐且需要一定的時間周期。

3.還有一種處于中間的模式,即:在采購產品的同時采購定制化服務,或者和第三方公司合作在基于開源產品的基礎上聯合開發和定制所需功能。

對于這些不同的工具平臺建設模式從長遠來看一個技術驅動的企業肯定對可定制能力有很高的要求,所以是否具備可定制能力將是一個必選項。而從功能上來看,采購的產品和服務往往難以完整的實現企業特定的數據管理和分析需求,因此就得需要企業通過基于這些產品提供的API進行定制開發從而將已提供的功能界面舍棄。

假設如果我們要用阿里云的數據服務,那么如何實施數據質量管理呢?這時就得需要基于阿里云的API來開發一個質量管理的工具,通過定義質量規則,配合定期的質量檢測任務調度來實現。

因此,企業開發自己的數據平臺界面將是企業數據工具和平臺建設的關鍵一步。它相當于定義了企業自己的數據工作接口,而企業的特定需求服務是這一接口的具體實現而已。接口的定義往往比實現更重要,因為會有太多的企業資產依賴這樣的接口去實現,比如大量的ETL腳本。接口定義好了,企業就可以按照自己的方式去設計開發上層軟件,而這些上層軟件則構成了企業的核心資產和競爭力,而某個接口的具體實現,則可以較為輕松的替換并且不影響企業的主要業務。

最后總結一下,綜上所述從數據工作做什么出發簡要分析了企業如何進行數據能力建設,且結合自己的經驗從而分享一些自己的認識。

數據分析咨詢請掃描二維碼

若不方便掃碼,搜微信號:CDAshujufenxi

數據分析師資訊
更多

OK
客服在線
立即咨詢
日韩人妻系列无码专区视频,先锋高清无码,无码免费视欧非,国精产品一区一区三区无码
客服在線
立即咨詢