
大數據分析之數據孤島:你能看到它們嗎
從企業和CIO們開始嘗試數據挖掘以來,數據孤島就一直阻礙著商業智能效能的提高。數據孤島,換句話說昂貴的、需要費盡心血維護卻彼此無法兼容的數 據庫,指望從它們那兒發掘到偉大的知識,無疑于緣木求魚。也就是說,數據庫的數量和挖掘到的知識產量沒有任何關系。正如一位商業智能專家所說的,進進出出 的都是垃圾。
談到大數據分析-或者叫數據3V(類別、數量和增長率),則是個令大多數公司窒息的流行語。因為,據分析師Ted Friedman說,數據孤島整指數般的蔓延-就像瘟疫一樣。
“在你的公司,任何時間任何地方,都有數據孤島的存在。從大數據的角度看,簡直整個宇宙都充斥著數據孤島-在防火墻里,在web上,在‘云’端,還有那些 屬于其他企業、客戶和供應商的卻在你這兒出現的數據,”Gartner主持信息管理咨詢的Friedman說道,“所有這些使得你更難打破數據孤島來挖掘 有意義的知識信息?!?/span>
那么,CIO在詮釋大數據的過程中能起到什么作用呢?和企業遇到的其他IT挑戰一樣,這個難題及其解決之道也圍繞 著人才、流程和技術而展開。CIO不僅需要為為員工培養新技能(包括招募數據科學家、分析師和架構師等),而且需要說服高層:大數據治理是需要高管甚至董 事會關注的重要命題。
突然變時髦的數據管理
對付大數據遭遇的數據孤島問題有一種 方法,就是孤立分析,重點突破。Gartner專門有一種信息估值過程來運用這種方法?!霸邶嫶蟮臄祿Q笾?,不同數據有著不同的價值,于是數據挖掘的目 標,就變成了定義怎樣的問題空間,然后在空間內深入分析,”Friedman說道,“就我看來,客戶往往將分析邊界定義得太過寬泛?!?/span>
為了突出重點,企業可以首先問自己這樣一個問題:我們到底要從數據中得到什么?這些數據和我們的業務有什么聯系?我們如何使用這些數據以獲得積極的回報?
隨著企業越來越關注潛伏在大數據中的價值信息,Gartner注意到越來越多的公司開始設立數據治理委員會。由業務干系人所組成,這些機構關注一切方面 -從哪些是重要的數據源、向什么技術投資,到各種和數據有關的問題,譬如數據質量、數據保留度、數據整合、數據安全性和信息隱私。
外部數據孤島的危險探索
除了少數IT專家外,也應該開放給其他職員大數據探索的權利,以最大程度從大數據中攫取價值。Gartner及其它專業人士擔心,很多組織急于從大數據中牟利,以至于忽視了IT治理的風險,從而付出了侵犯隱私、數據造假等問題而得到嚴懲的代價。
“在企業里,徹底的數據開放不切實際,”麻省Forrester首席分析師Boris Evelson說道,“有各種各樣的監管問題和利益沖突。舉個例子,投行的行研師和交易員之間就絕對不可互犯雷池一步?!?/span>
在科羅拉多大學國家冰雪研究數據中心(NSIDC)和其數據收集伙伴美國航天局(NASA)看來,保護數據的完整是一項巨大的挑戰,NSIDC的IT服 務經理David Gallaher如是說。David的主要任務,是收集、管理記錄著世界上所有冰凍地域的以PB級計算的科學數據,并保證以可控的方式分發給需要的研究人 員?!拔覀冃枰屓藗儽M可能方便地獲取他們需要的數據,但我們必須得保證他們不可能胡亂更改其中的任何一處,”正在接受地理學培訓的Gallaher表 示。另一方面,NSIDC的科學家們每次訪問數據后肯定會對其進行更新,所以數據管理的治理原則必須是“正確的人做正確的修改”,Gallaher強調 道。NSIDC目前正在和美國國家科學基金會合作完善其數據治理原則。
數據管理-只要多視圖,不要多拷貝
不是所有人同意大數據一定意味著更多的數據孤島這一說法。IBM大數據項目副總裁Anjul Bhambhri就宣稱,大數據其實能“幫助”CIO。
“現在,數據孤島能夠進行自我清理,”在一次針對其一年來為200多家公司清理數據孤島的訪談中,Bhambhri如是說。一家大型企業為郵件歸檔建立了 13個數據集市(單是法務部就使用了8個),因為當他們要訪問歸檔郵件時,他們等不及讓IT來處理。另一家公司的兩個部門分別為自己的web緩存建立了拷 貝?!耙浪麄兠刻炀陀?50億條緩存要處理,”Bhambhri說道。
新技術-當然,包括IBM的BI大數據產品-可讓企業在一個數據 倉庫中存儲和分析龐大的數據信息。因此,上述兩家公司只用保留一個活躍的數據歸檔,大可不必設立13個歸檔副本或150億web緩存?!澳愕臄祿挥帽4?于一處,來自多處的應用即可對數據同時進行訪問,因為數據在存儲層次的形式保持不變,”Bhambhri說道。然而,即使她和像她這樣的積極倡導大數據分 析的IT人士,也不斷提醒企業,有效的大數據分析,需要對已有的IT系統框架進行徹底地改造?!澳軌蛴行Т鎯祿窃谡_的方向上前進了一大步,”她說 道,“但僅能存儲是不夠的,有效的分析還需要大量的算法?!?/span>
數據分析咨詢請掃描二維碼
若不方便掃碼,搜微信號:CDAshujufenxi
CDA數據分析師證書考試體系(更新于2025年05月22日)
2025-05-26解碼數據基因:從數字敏感度到邏輯思維 每當看到超市貨架上商品的排列變化,你是否會聯想到背后的銷售數據波動?三年前在零售行 ...
2025-05-23在本文中,我們將探討 AI 為何能夠加速數據分析、如何在每個步驟中實現數據分析自動化以及使用哪些工具。 數據分析中的AI是什么 ...
2025-05-20當數據遇見人生:我的第一個分析項目 記得三年前接手第一個數據分析項目時,我面對Excel里密密麻麻的銷售數據手足無措。那些跳動 ...
2025-05-20在數字化運營的時代,企業每天都在產生海量數據:用戶點擊行為、商品銷售記錄、廣告投放反饋…… 這些數據就像散落的拼圖,而相 ...
2025-05-19在當今數字化營銷時代,小紅書作為國內領先的社交電商平臺,其銷售數據蘊含著巨大的商業價值。通過對小紅書銷售數據的深入分析, ...
2025-05-16Excel作為最常用的數據分析工具,有沒有什么工具可以幫助我們快速地使用excel表格,只要輕松幾步甚至輸入幾項指令就能搞定呢? ...
2025-05-15數據,如同無形的燃料,驅動著現代社會的運轉。從全球互聯網用戶每天產生的2.5億TB數據,到制造業的傳感器、金融交易 ...
2025-05-15大數據是什么_數據分析師培訓 其實,現在的大數據指的并不僅僅是海量數據,更準確而言是對大數據分析的方法。傳統的數 ...
2025-05-14CDA持證人簡介: 萬木,CDA L1持證人,某電商中廠BI工程師 ,5年數據經驗1年BI內訓師,高級數據分析師,擁有豐富的行業經驗。 ...
2025-05-13CDA持證人簡介: 王明月 ,CDA 數據分析師二級持證人,2年數據產品工作經驗,管理學博士在讀。 學習入口:https://edu.cda.cn/g ...
2025-05-12CDA持證人簡介: 楊貞璽 ,CDA一級持證人,鄭州大學情報學碩士研究生,某上市公司數據分析師。 學習入口:https://edu.cda.cn/g ...
2025-05-09CDA持證人簡介 程靖 CDA會員大咖,暢銷書《小白學產品》作者,13年頂級互聯網公司產品經理相關經驗,曾在百度、美團、阿里等 ...
2025-05-07相信很多做數據分析的小伙伴,都接到過一些高階的數據分析需求,實現的過程需要用到一些數據獲取,數據清洗轉換,建模方法等,這 ...
2025-05-06以下的文章內容來源于劉靜老師的專欄,如果您想閱讀專欄《10大業務分析模型突破業務瓶頸》,點擊下方鏈接 https://edu.cda.cn/g ...
2025-04-30CDA持證人簡介: 邱立峰 CDA 數據分析師二級持證人,數字化轉型專家,數據治理專家,高級數據分析師,擁有豐富的行業經驗。 ...
2025-04-29CDA持證人簡介: 程靖 CDA會員大咖,暢銷書《小白學產品》作者,13年頂級互聯網公司產品經理相關經驗,曾在百度,美團,阿里等 ...
2025-04-28CDA持證人簡介: 居瑜 ,CDA一級持證人國企財務經理,13年財務管理運營經驗,在數據分析就業和實踐經驗方面有著豐富的積累和經 ...
2025-04-27數據分析在當今信息時代發揮著重要作用。單因素方差分析(One-Way ANOVA)是一種關鍵的統計方法,用于比較三個或更多獨立樣本組 ...
2025-04-25CDA持證人簡介: 居瑜 ,CDA一級持證人國企財務經理,13年財務管理運營經驗,在數據分析就業和實踐經驗方面有著豐富的積累和經 ...
2025-04-25