Spark資源調度中的通訊流程

spark的調度包括資源調度和任務調度兩種。前面介紹過spark的任務調度包括DAGScheduler&TaskScheduler,本文主要介紹資源調度,包括資源調度中涉及的各模塊以及它們之間的通訊。 Spark中物理節點包括三者,分別是client、master&worker,而與資源調度相關的角色有四個,分別是driver、master、worker和executor。這幾個節點與角色之間的關
相關文章
相關標籤/搜索