YARN/MRv2 MRAppMaster深入剖析—推測執行機制

1. 背景 推測執行(Speculative Execution)是指在分佈式集羣環境下,因爲程序BUG,負載不均衡或者資源分佈不均等原因,造成同一個job的多個task運行速度不一致,有的task運行速度明顯慢於其他task(比如:一個job的某個task進度只有10%,而其他所有task已經運行完畢),則這些task拖慢了作業的整體執行進度,爲了避免這種情況發生,Hadoop會爲該task啓動
相關文章
相關標籤/搜索