MapReduce架構和算法(2)

一個、combiner計劃     每map它可能會產生大量的輸出,combiner的作用是map輸出端先做合併。reducer的數據量。     combiner最基本是實現本地key的歸併,combiner具有類似本地的reduce功能     假設不用combiner,那麼,全部的結果都是reduce完畢。效率會相對低下。 使用combiner,先完畢的map會在本地聚合,提升速度。    
相關文章
相關標籤/搜索