熱線電話：13121318867

登錄
首頁精彩閱讀常見的大數據架構都有哪些（二）
常見的大數據架構都有哪些（二）
2019-02-17
收藏


我們在上一篇文章中給大家介紹了傳統的大數據架構的內容，以及傳統大數據架構的優缺點、流式架構和適用場景，如果我們學習大數據的時候一定要掌握這些大數據知識。今天再這篇文章中我們給大家介紹一下大數據架構的其他架構。


首先我們給大家介紹一下流式架構，流式架構在大數據中應用十分廣泛，在傳統大數據架構的基礎上，流式架構非常激進，直接取消了批處理操作，數據全程以數據流的方式進行處理，所以在數據接入端沒有了ETL操作，轉而替換為數據通道。經過流處理加工后的數據，通過消息中間件以消息的形式直接推送給了消費者。雖然有一個存儲部分，但是該存儲更多的以窗口的形式進行存儲，所以該存儲并非發生在數據湖，而是在外圍系統。而流式架構的優點十分明顯，流式架構的優點就是沒有十分麻煩的ETL過程，數據的實效性非常高。當然，流式架構的缺點也是十分明顯的，那就是對于流式架構來說，不存在批處理，因此對于數據的重播和歷史統計無法很好的支撐。對于離線分析僅僅支撐窗口之內的分析。正因為如此，流式架構的適用場景就是預警，監控，對數據有有效期要求的情況。這些就是流式架構的主要內容。


下面我們給大家說一下Kappa架構，Kappa架構在大數據中是比較常見的，Kappa架構的原理就是在Lambda 的基礎上進行了優化，將實時和流部分進行了合并，將數據通道以消息隊列進行替代。因此對于Kappa架構來說，依舊以流處理為主，但是數據卻在數據湖層面進行了存儲，當需要進行離線分析或者再次計算的時候，則將數據湖的數據再次經過消息隊列重播一次則可。而Kappa架構的優點就是Kappa架構解決了Lambda架構里面的冗余部分，以數據可重播的超凡脫俗的思想進行了設計，整個架構非常簡潔。Kappa架構的缺點就是雖然Kappa架構看起來簡潔，但是施難度相對較高，尤其是對于數據重播部分。于是，Kappa架構和Lambda類似，改架構是針對Lambda的優化。使用場景也有很多，和lambda相同。


我們在這篇文章中給大家介紹了大數據架構中的兩種，分別是流式架構和Kappa架構，這兩個架構在大數據中占據著十分重要的地位，想學習大數據的朋友一定不要錯過這兩個架構的掌握喲。


CDA數據分析師考試相關入口一覽（建議收藏）：

? 想報名CDA認證考試，點擊>>>   “CDA報名” 了解CDA考試詳情；

? 想學習CDA考試教材，點擊>>> “CDA教材” 了解CDA考試詳情；

? 想加入CDA考試題庫，點擊>>> “CDA題庫” 了解CDA考試詳情；

? 想了解CDA考試含金量，點擊>>> “CDA含金量” 了解CDA考試詳情；

大數據 數據架構 數據湖 ETL

數據分析咨詢請掃描二維碼

若不方便掃碼，搜微信號：CDAshujufenxi

上一篇常見的大數據架構都有哪些（一）
下一篇常見的大數據架構都有哪些（三）
數據分析師考試動態
CDA報考指南
數據分析學習
數據分析師資訊
更多

CDA教育閉環

常見問題

關于我們

CDA數據分析師公眾號

  • CDA數據分析師公眾號

CDA考試中心小程序

  • CDA考試中心服務號

CDA數據分析師App下載

  • CDA數據分析師App下載
Copyright © 2015-2021, www.ruiqisteel.com All Rights Reserved. CDA數據分析師(北京國富如荷網絡科技有限公司) 版權所有 京ICP備11001960號-9 京公網安備 11010802034615號 經營許可證編號：京B2-20210330
聯系電話：13321103290 (微信同號)

OK
客服在線
立即咨詢
日韩人妻系列无码专区视频,先锋高清无码,无码免费视欧非,国精产品一区一区三区无码
客服在線
立即咨詢