聊一聊Spark資源動態分配

1. 提出問題   相信不少面試也會問道相似的問題,那麼這篇文章就是要圍繞這個問題來進行展開進行分析Spark的資源動態分配。   一般咱們在經過spark-submit提交Spark應用到yarn集羣的時候,都會配置num-executors來指定分配多少個Executor,可是對於經驗不足的新手而言,常常會不知道如何分配合適的資源數,因此常常會選擇儘可能多分配資源,認爲資源分配的越多任務運行的
相關文章
相關標籤/搜索