整理spark中的job stage task幾個概念以及運行案例

Job : 是一個比task 和 stage 更大的邏輯概念,job 可以認爲是我們在driver 或是通過spark-submit 提交的程序中一個action ,在我們的程序中有很多action  所有也就對應很多的jobs Stage:  是spark 中一個非常重要的概念 ,在一個job 中劃分stage 的一個重要依據是否有shuflle 發生 ,也就是是否會發生數據的重組 (重新組織數
相關文章
相關標籤/搜索