一次 Spark SQL 性能提高10倍的經歷

1. 遇到了啥問題 是醬紫的,簡單來講:併發執行 spark job 的時候,併發的提速很不明顯。html 嗯,且聽我慢慢道來,囉嗦點說,相似於咱們內部有一個系統給分析師用,他們寫一些 sql,在咱們的 spark cluster 上跑。隨着分析師愈來愈多,sql job 也愈來愈多,等待運行的時間也愈來愈長,咱們就在想怎麼把 sql 運行的時間加快一點。咱們的整個架構是 spark 1.6.1
相關文章
相關標籤/搜索