Spark學習筆記1:Application,Driver,Job,Task,Stage理解

看了spark的原始論文和相關資料,對spark中的一些經常用到的術語做了一些梳理,記錄下。 1,Application application(應用)其實就是用spark-submit提交的程序。比方說spark examples中的計算pi的SparkPi。一個application通常包含三部分:從數據源(比方說HDFS)取數據形成RDD,通過RDD的transformation和actio
相關文章
相關標籤/搜索