聊一聊Spark資源動態分配

1. 提出問題   相信很多面試也會問道類似的問題,那麼這篇文章就是要圍繞這個問題來進行展開進行分析Spark的資源動態分配。   通常我們在通過spark-submit提交Spark應用到yarn集羣的時候,都會配置num-executors來指定分配多少個Executor,但是對於經驗不足的新手而言,經常會不知道如何分配合適的資源數,所以經常會選擇儘量多分配資源,認爲資源分配的越多任務運行的就
相關文章
相關標籤/搜索