每日7千次的跨部門任務調度,有贊怎麼設計大數據開發平臺?

隨着公司規模的增長,對大數據的離線應用開發的需求越來越多,這些需求包括但不限於離線數據同步(MySQL/Hive/Hbase/Elastic Search 等之間的離線同步)、離線計算(Hive/MapReduce/Spark 等)、定時調度、運行結果的查詢以及失敗場景的報警等等。 在統一的大數據開發平臺產生之前,面臨一系列的問題: 多個開發和調度入口,不同的業務部門之間的項目或組件很難複用,同時
相關文章
相關標籤/搜索