Spark的job觸發流程原理與stage劃分算法分析

Spark的application中有多個action操做,每一個action操做都會觸發RDD的runJob操做,每一個job以action操做爲界限,而RDD的runJob則在SparkContext的runJob中調用,SparkContext的runJob底層會調用dagScheduler的runJob方法。 在DAGScheduler中,會將每一個job劃分紅多個stage,每一個sta
相關文章
相關標籤/搜索