Spark系列--SparkCore(四)RDD的依賴關係及運行規劃

本篇以WordCount爲例,去分析RDD的依賴關係和任務切分機制,分析樣例以下:web sc.textFile(「xx") .flatMap(_.split(" ")) .map((_,1)) .reduceByKey(_+_) .saveAsTextFile(「xx") 1、RDD的依賴關係 RDD的依賴分爲兩種:窄依賴、寬依賴svg 窄依賴指的是每個父RDD的
相關文章
相關標籤/搜索