hadoop shuffle過程

    1 處理過程圖:         MapReduce確保每個reducer的輸入都按鍵排序。系統執行排序的過程——將map輸出作爲輸入傳給reducer——稱爲shuffle。shuffle屬於不斷被優化和改進的代碼庫的一部分,從許多方面來看,shuffle是MapReduce的「心臟」,是奇蹟發生的地方。事實上,shuffle這個說法並不準確。因爲在某些語境中,它只代表reduce任務獲
相關文章
相關標籤/搜索