關於SPARK_WORKER_MEMORY和SPARK_MEM

在spark中最容易混淆的是各種內存關係。本篇講述一下SPARK_WORKER_MEMORY和SPARK_MEM。 SPARK_WORKER_MEMORY是計算節點worker所能支配的內存,各個節點可以根據實際物理內存的大小,通過配置conf/spark-env.sh來分配內存給該節點的worker進程使用。在spark standalone集羣中,如果各節點的物理配置不一樣,conf/spar
相關文章
相關標籤/搜索