周總結

簡單描述Shuffle過程環形緩衝區的作用? key,value從map()方法輸出,被outputcollector收集通過getpartitioner()方法獲取分區號,在進入環形緩衝區。默認情況下,環形緩衝區大小值爲100MB。當map輸入的數據進入環形緩衝區的量達到80MB以上時,那麼開始執行溢寫過程,溢寫過程中如果有其他數據進入,那麼由剩餘的百分之20反向寫入。溢寫過程會根據key,va
相關文章
相關標籤/搜索