ETL公用模塊設計(MongoDB + spark + Python)

--數據庫架構師 之路 場景: 通過ETL流程收集 ,不同的數據源 數據,並放到ods層裏。 技術選型:MongoDB + spark + Python 主要考慮行業的複雜度,還有不同的數據來源數據(包含 txt,jpg,excel,rmdb) 後期分析所需要的開發資源,內存計算,有效的發揮DBA 腳本能力。   設計:整體通過配置中心的 進行任務調度,可能有人會問題爲什麼不用到一些 調度插件像a
相關文章
相關標籤/搜索