hdfs-mapreduce處理流程(二)

1、問題:在這張圖中有幾個工人,幾個工廠 工人: 4 --map處理程序 廠: 3 --reduce相當於最後的工廠 組裝 2、map端進行了什麼事:砍樹這一步叫做split 過程 砍樹—把我們hdfs的文件進行切割(砍樹) ----- 默認與block塊的大小一 致(128M) split=block=maptask 2.1當然爲了更好的處理,在計算資源充足的情況下,把split變大設置爲256
相關文章
相關標籤/搜索