airflow調度原理及k8s調度原則

  Airflow     airflow是一個任務調度組件,主要是基於DAG(有向無環圖)來定義整個工作流。他主要解決了crontab調度無法完成的任務依賴,網頁服務,任務暫停等功能。並且airflow能夠很好的支持python,spark,hive,k8s等 airflow架構 airflow包含以下組件: 元數據庫(存儲DAG) 執行器worker(負責執行task) 調度器sheduler
相關文章
相關標籤/搜索