深刻理解Spark 2.1 Core (九):迭代計算和Shuffle的原理與源碼分析

在博文《深刻理解Spark 2.1 Core (七):任務執行的原理與源碼分析 》咱們曾講到過:java Task有兩個子類,一個是非最後的Stage的Task,ShuffleMapTask;一個是最後的Stage的Task,ResultTask。它們都覆蓋了Task的runTask方法。web 咱們來看一下ShuffleMapTask的runTask方法中的部分代碼:算法 var writer:
相關文章
相關標籤/搜索