Spark Shuffle之Sort Shuffle

概述 Spark 1.2起默認使用Sort Shuffle,並且Sort Shuffle在map端有三種實現,分別是UnsafeShuffleWriter、BypassMergeSortShuffleWriter、SortShuffleWriter,根據運行時信息自動選擇對應的實現。 三種ShuffleWriter實現 簡單介紹三種ShuffleWriter實現 BypassMergeSortSh
相關文章
相關標籤/搜索