SparkSQL性能調優與優化指南

spark 內存泄露 1.高併發情況下的內存泄露的具體表現 很遺憾，Spark的設計架構並不是爲了高併發請求而設計的，我們嘗試在網絡條件不好的集羣下，進行100併發的查詢，在壓測3天后發現了內存泄露。 a)在進行大量小SQL的壓測過程中發現，有大量的activejob在spark ui上一直處於pending狀態，且永遠不結束，如下圖所示   b)並且發現driver內存爆滿   c)用內存分析分

>>阅读原文<<