Stage 細解

Spark Application在遇到action算子時,SparkContext會生成Job,並將構成DAG圖將給DAG Scheduler解析成Stage。 Stage有兩種: ShuffleMapStage  這種Stage是以Shuffle爲輸出邊界 其輸入邊界能夠是從外部獲取數據,也能夠是另外一個ShuffleMapStage的輸出 其輸出能夠是另外一個Stage的開始 Shuffle
相關文章
相關標籤/搜索