Spark Shuffle之Tungsten-Sort

概述 這篇文章是Spark Shuffle之Sort Shuffle的一部分,介紹UnsafeShuffleWriter的實現,也就是tungsten-sort。 實現 存儲 UnsafeShuffleWriter內部使用了和BytesToBytesMap基本相同的數據結構處理map端的輸出,不過將其細化爲ShuffleExternalSorter和ShuffleInMemorySorter兩部分
相關文章
相關標籤/搜索