Spark 解析 : DAGScheduler中的DAG劃分與提交

一：Spark 運行架構圖片 二：Spark 運行架構 各個RDD之間存在着依賴關係，這些依賴關係形成有向無環圖DAG，DAGScheduler對這些依賴關係形成的DAG，進行Stage劃分，劃分的規則很簡單，從後往前回溯，遇到窄依賴加入本stage，遇見寬依賴進行Stage切分。完成了Stage的劃分,DAGScheduler基於每個Stage生成TaskSet,並將TaskSet提交給Task

>>阅读原文<<