spark代碼在driver還是executor上執行理解

整體來說,driver執行的就是除了RDD算子中的代碼塊以外的所有代碼塊,並且只執行一次。但是這個也不是絕對的,因爲在RDD算子中不對RDD做操作的部分(比如println("aa"))也會在driver中進行執行只不過這部分代碼在driver上是計算一次就執行一次。如下兩圖: 並且spark的每個batch在執行的時候也是先執行driver中的代碼,然後遇到action操作再去劃分DAG圖將具體
相關文章
相關標籤/搜索