Presto 任務調度: 任務分配到哪裏

在調度任務時,有幾個決策點,第一:分配多少個任務,第二:每個任務分配到哪些機器上。 要回答這個問題,首先把計算任務做一下分類,在presto內部有4種計算類型的節點: source節點,讀源數據的節點,負責讀取數據、Map階段的計算任務。分配的個數由SplitManager根據數據決定。 fixed節點,shuffle節點,用於處理reduce任務。比如group by計算,source階段的數據
相關文章
相關標籤/搜索