Spark 內存管理模型

在工作中有時候我們可能會遇到Spark內存溢出問題,因此有必要了解一下Spark是如何進行內存管理的。在Spark 1.6.0以後的版本中,內存管理模型如下: 這裏面可以看到三個核心組成部分: 1.Reserved memory 這是系統保留的內存,其大小是固定的,對於Spark1.6.0 來說其大小爲300M, 意味着300M RAM不參與Spark內存空間計算。 2.User memory 這
相關文章
相關標籤/搜索