MapReduce 工作機制詳解(三)Shuffle 機制

Shuffle 機制 map 階段處理的數據如何傳遞給 e reduce 階段,是 MapReduce 框架中最關鍵的一個流程,這個流程就叫 shuffle。 shuffle: 洗牌、發牌——(核心機制:數據分區,排序,合併)。 shuffle 是 Mapreduce 的核心,它分佈在 Mapreduce 的 map 階段和 reduce階段。一般把從 p Map 產生輸出開始到 e Reduce
相關文章
相關標籤/搜索