Spark Driver與Executor

Driver創建sparkContext對象,初始化程序,分發計算給Executor。 所有RDD算子的計算功能全部由Executor來執行。 如果計算部分有對象,該對象需要序列化,才能在網絡中傳輸。 變量在driver中聲明,算子中的計算邏輯需要分發給executor來執行。
相關文章
相關標籤/搜索