Spark Adaptive Execution調研

文章目錄 一、Spark 目前現有的一些問題 問題一:Shuffle partition數量沒有達到最優 問題二:現有執行計劃的一些不足 問題三:數據傾斜的問題 二、Spark Adaptive Execution提出的相關解決方案 1、自動設置Shuffle Partition數量 一些關鍵點: 開啓方式: 2、執行過程中動態調整執行計劃 開啓方式: 3、自動處理數據傾斜 開啓方式: 三、總結
相關文章
相關標籤/搜索