hadoop JobTracker和TaskTracker

JobTracker和TaskTracker

JobTracker 對應於 NameNodeide

TaskTracker 對應於 DataNodeorm

DataNode 和NameNode 是針對數據存放來而言的部署

JobTracker和TaskTracker是對於MapReduce執行而言的it


mapreduce中幾個主要概念,mapreduce總體上能夠分爲這麼幾條執行線索:ast

jobclient,JobTracker與TaskTracker。class

一、JobClient會在用戶端經過JobClient類將應用已經配置參數打包成jar文件存儲到hdfs,監控

並把路徑提交到Jobtracker,而後由JobTracker建立每個Task(即MapTask和ReduceTask)cli

並將它們分發到各個TaskTracker服務中去執行打包

二、JobTracker是一個master服務,軟件啓動以後JobTracker接收Job,負責調度Job的每個子任務task運行於TaskTracker上,軟件

並監控它們,若是發現有失敗的task就從新運行它。通常狀況應該把JobTracker部署在單獨的機器上。

三、TaskTracker是運行在多個節點上的slaver服務。TaskTracker主動與JobTracker通訊,接收做業,並負責直接執行每個任務。

TaskTracker都須要運行在HDFS的DataNode上

相關文章
相關標籤/搜索