Spark 中的寬依賴和窄依賴

轉載自:[每次進步一點點——Spark 中的寬依賴和窄依賴]html Spark中RDD的高效與DAG圖有着莫大的關係,在DAG調度中須要對計算過程劃分stage,而劃分依據就是RDD之間的依賴關係。針對不一樣的轉換函數,RDD之間的依賴關係分類窄依賴(narrow dependency)和寬依賴(wide dependency, 也稱 shuffle dependency).web 寬依賴與窄依
相關文章
相關標籤/搜索