移動大數據平臺架構思想以及實踐經驗

摘要:友盟大數據平臺的架構借鑑了Lambda架構思想,數據接入層讓Kafka集羣承擔,後面由Storm消費,存儲在MongoDB裏面,通過Kafka自帶的Mirror功能同步,兩個Kafka集羣,可以分離負載;計算有離線和實時兩部分,實時是Storm,離線是Hadoop,數據倉庫用Hive,數據挖掘正在從Pig遷移到Spark,大量的數據通過計算之後,存儲在HDFS上,最後存儲在HBase裏面,通
相關文章
相關標籤/搜索