Spark與MapReduce對比優勢

表達能力 MapReduce需要將所有計算轉換爲Map和Reduce,難以描述複雜處理過程; Spark除Map和Reduce外,還支持RDD/DataFrame/DataSet等多種數據模型操作,編程模型更加靈活。 磁盤IO MapReduce每步運算都要從磁盤讀取數據,結束後寫入磁盤數據,僅有小部分數據作爲臨時緩存放入內存,磁盤IO開銷比較大; Spark將中間結果直接放入內存,既提高了迭代運
相關文章
相關標籤/搜索