Spark2.x學習筆記:11、RDD依賴關係與stage劃分

11、 RDD依賴關係與stage劃分 Spark中RDD的高效與DAG圖有着莫大的關係,在DAG調度中需要對計算過程劃分stage,而劃分依據就是RDD之間的依賴關係。 11.1 窄依賴與寬依賴 針對不同的轉換函數,RDD之間的依賴關係分類窄依賴(narrow dependency)和寬依賴(wide dependency, 也稱 shuffle dependency)。 (1)窄依賴  窄依賴
相關文章
相關標籤/搜索