RDD依賴關係

RDD和它依賴的父RDD(s)的關係有兩種不同的類型,即窄依賴(narrow dependency)和寬依賴(wide dependency)。 一般有shuffle過程即寬依賴,無shuffle過程就窄依賴但是窄依賴也有可能產生數據在網絡傳輸。 2.1、窄依賴 窄依賴指的是每一個父RDD的Partition最多被子RDD的一個Partition使用任務可以在本地執行,不需要shuffle。 常見
相關文章
相關標籤/搜索