那些年咱們在spark SQL上踩過的坑

作了一年延雲YDB的開發，這一年在使用spark上真心踩了很多坑，總結一下，但願對你們有所幫助。 spark 內存泄露 1.高併發狀況下的內存泄露的具體表現 很遺憾，spark的設計架構並非爲了高併發請求而設計的，咱們嘗試在網絡條件很差的集羣下，進行100併發的查詢，在壓測3天后發現了內存泄露。node a)在進行大量小SQL的壓測過程當中發現，有大量的activejob在spark ui上一直處

>>阅读原文<<