Hadoop ---推測執行Speculative Execution

問題  MapReduce模型將一個作業分解爲多個任務並行執行,以縮短執行時間。這種模型的特點是,整個作業的運行時間由最後完成的一個任務決定。如果少數任務運行緩慢,則會影響作業的整體進度。 推測執行  任務運行緩慢的原因有很多,很難檢測到具體原因。Hadoop提供了一種優化措施,當檢測到某個任務運行緩慢時,Hadoop會啓動另一個與該任務完全相同的任務,並最終選用最先成功運行完成任務的計算結果作爲
相關文章
相關標籤/搜索