spark學習-Spark性能調優手段

Spark性能調優手段:java 判斷內存消耗:設置RDD並行度,將RDD cache到內存,經過BlockManagerMasterActor添加RDD到memory中的日誌查看每一個partition佔了多少內存,最後乘以partition數量,便是RDD內存佔用量。json 1.Shuffle調優(核心)數組 a.consolidation機制,使shuffleMapTask端寫磁盤的文件數
相關文章
相關標籤/搜索