MapReduce:詳解Shuffle過程---map和reduce數據交互的關鍵

文章來源:數組   http://langyu.iteye.com/blog/992916性能優化   Shuffle描述着數據從map task輸出到reduce task輸入的這段過程。 網絡   我的理解:app map執行的結果會保存爲本地的一個文件中:oop 只要map執行 完成,內存中的map數據就必定會保存到本地文件,保存這個文件有個過程 叫作spilll(溢寫),若是須要對map的
相關文章
相關標籤/搜索