Spark的Job、Stage、Task是按何種規則產生的

上面這張圖就可以很清晰的說明這個問題。(圖中最小的方塊代表一個partition,包裹partition的方塊是RDD,忽略顏色) Job Spark的Job來源於用戶執行action操作,就是從RDD中獲取結果的操作,而不是將一個RDD轉換成另一個RDD的transformation操作。 Stage Spark的Stage是分割RDD執行的各種transformation而來。如上圖,將這些轉
相關文章
相關標籤/搜索