記錄一次Spark小問題的求證過程

前言 某天和小夥伴討論時候,聊到一個小問題,RDD的默認分區數和啥有關,當時得出的答案是和total-executor-cores有關,核數是幾個,那它就是幾個分區,經過求證似乎並不是這樣,記錄一下過程 正題 首先隨便來了個action算子,然後點進去一探究竟 然後我們跳轉到了RDD.scala,說老實的你隨便來個action,點進來都是runJob,然後我們就順其自然點進去吧 進到SparkCo
相關文章
相關標籤/搜索