Mapreuce的Shuffle過程

    熟悉Mapreduce的同學,肯定對Map和Reduce的編寫非常的6,那麼從你的數據從Mapper類到Reducer類的傳輸要經過一個過程,這個過程就叫Shuffle,Shuffle過程是個無比重要的過程,它使你的數據從Mapper端出來之後更加整齊,規範,並且相同的Key的數據放在了一起輸入到Reducer端,從某種意義上來說,Shuffle是MapReduce的心臟,是奇蹟發生的地方
相關文章
相關標籤/搜索