spark任務生成和提交流程詳解

首先將代碼打包上傳到集羣 一、Driver端會調用SparkSubmit類(內部執行submit->doRunMain->經過反射 獲取應用程序的主類對象->執行主類的main方法) 二、構建sparkConf和sparkContext對象,在sparkContext入口作了三件事,建立 了sparkEnv對象(建立了ActorSystem對象)TaskScheduler(用來生成併發送 task
相關文章
相關標籤/搜索