spark提交任務的流程

1.spark任務提交階段劃分 spark提交任務分爲五個狀態,五個狀態之間的有四個轉換過程: (1)根據代碼中的Transformations肯定RDD。 (2)根據RDD肯定RDD的類型和它們之間的血統關係,生成一個DAG。 (3)將DAG提交給DAGScheduler來劃分出不一樣的task,以及task執行順序和依賴關係。 (4)TaskScheduler調度任務,採用集羣中配置的調度方式
相關文章
相關標籤/搜索