spark2.x-內存管理機制

MemoryManagerweb 管理在jvm內部的spark總體的內存使用,該組件實現了將可用內存按任務劃分的策略。在內存(內存使用緩存和數據傳輸)和執行之間分配內存(計算所使用的內存,如shuffles、joins、sorts和aggregations)。緩存 執行內存指的是計算shuffles、joins、sorts和aggregations,而存儲內存指的是用於緩存和傳播跨集羣的內部數據。
相關文章
相關標籤/搜索