Spark的做業提交流程簡介

這是本身讀取源碼並結合他人的總結,寫的大概的流程,僅供參考web 第一部分:大致流程 (1)將咱們編寫的程序打成jar包 (2)調用spark-submit腳本提交任務到集羣上運行 (3)運行sparkSubmit的main方法,在這個方法中經過反射的方式建立咱們編寫的主類的實例對象,而後調用main方法,開始執行咱們的代碼(注意,咱們的 spark程序中的driver就運行在sparkSubmi
相關文章
相關標籤/搜索