Spark任務運行過程解析

spark-submit->SparkSubmit->main->submit->doRunMain->RunMain->通過反射,創建我們編寫的主類的實例對象,調用main方法->開始執行我們的代碼->初始化sparkContext對象->創建初始rdd->出發action算子->提交job->worker執行任務->任務結束 spark任務的本質:將rdd以來關係切分成一個個stage,然後將
相關文章
相關標籤/搜索