MapReduce的Combiner詳解

核心意義 :減少集羣之間的網絡開銷 具體實現步驟 1.自定義一個Combiner 繼承 reduce 重寫reduce方法 2.在 job 中設置:job.setCombinerClass(Combiner類.class) 注意: combiner 能夠應用的前提是不能影響最終的業務邏輯,而且,combiner 的輸出 kv 應該跟 reducer 的輸入 kv 類型要對應起來 不適用的場景: 求
相關文章
相關標籤/搜索