spark 內存管理

spark 內存管理       Spark 作爲一個以擅長內存計算爲優勢的計算引擎,內存管理方案是其非常重要的模塊; Spark的內存可以大體歸爲兩類:execution(運行內存)和storage(存儲內存),前者包括shuffles、joins、sorts和aggregations所需內存,後者包括cache和節點間數據傳輸所需內存;         在Spark 1.5和之前版本里,運行內
相關文章
相關標籤/搜索