在Spark集羣中，集羣的節點個數、RDD分區個數、​cpu內核個數三者與並行度的關係...

梳理一下Spark中關於併發度涉及的幾個概念File，Block，Split，Task，Partition，RDD以及節點數、Executor數、core數目的關係。 輸入可能以多個文件的形式存儲在HDFS上，每個File都包含了很多塊，稱爲 Block。 當Spark讀取這些文件作爲輸入時，會根據具體數據格式對應的InputFormat進行解析，一般是將若干個Block合併成一個輸入分片，稱爲

>>阅读原文<<