MapReduce之mapTask階段詳解

整個Map階段流程大體如上圖所示。 簡單概述:inputFile通過split被邏輯切分爲多個split文件,通過Record按行讀取內容給 map(用戶自己實現的)進行處理,數據被map處理結束之後交給OutputCollector收集 器,對其結果key進行分區(默認使用hash分區),然後寫入buffer,每個map task都有 一個內存緩衝區,存儲着map的輸出結果,當緩衝區快滿的時候需
相關文章
相關標籤/搜索