RDD的依賴與分區

1 寬依賴和窄依賴 RDD從具體的依賴的角度講,有窄依賴和寬依賴2種情況。 窄依賴:指每個父RDD的一個Partition最多被子RDD的一個Partition所使用,例如map、filter等都會產生窄依賴; 寬依賴:指一個父RDD的Partition會被多個子RDD的一個Partition所使用,如groupByKey,reduceByKey等操作都會產生寬依賴。 總結:如果父RDD的一個Pa
相關文章
相關標籤/搜索