Spark筆記四之RDD處理過程

Spark任務調度 Spark的任務調度分爲四步java 1RDD objectsapache   RDD的準備階段,組織RDD及RDD的依賴關係生成大概的RDD的DAG圖,DAG圖是有向環圖。緩存   2DAG schedulerjvm          細分RDD中partition的依賴關係肯定那些是寬依賴那些是窄依賴,生成更詳細的DAG圖,將DAG圖封裝成 TaskSet任務集合當觸發計算
相關文章
相關標籤/搜索