編譯hadoop2.x的hadoop-eclipse-plugin和配置

1、編譯
html

1.安裝jdk,而且配置好環境變量。
node

2.eclipse已經下載而且配置好了。linux

3.安裝ant,而且配置好了環境變量。git

4.hadoop包在windows本地已經有了,要和hadoop集羣上的hadoop包同樣,eclipse運行MapReduce時須要調用本地的hadoop包。github

5.下載hadoop2x-eclipse-plugin源代碼,目前hadoop2的eclipse-plugins源代碼由github脫管,下載地址是:https://github.com/winghc/hadoop2x-eclipse-plugin,而後在右側的Download ZIP鏈接點擊下載,而且解壓hadoop2x-eclipse-plugin-master.zip。shell

6.這一步儘可能先不作,能直接編譯成功最好,由於有些時候去掉這個會出點問題。有些時候換個網絡可能就會編譯成功了。切換到hadoop2x-eclipse-plugin-master\src\contrib\eclipse-plugin 目錄,修改build.xml文件,找到windows

<target name="compile" depends="init, ivy-retrieve-common" unless="skip.contrib">

去掉depends="init, ivy-retrieve-common",修改成以下內容:網絡

<target name="compile" unless="skip.contrib">

7.編譯hadoop-eclipse-plugin插件,打開命令行cmd,切換到hadoop2x-eclipse-plugin-master\src\contrib\eclipse-plugin 目錄,執行命令:less

ant jar -Dversion=2.6.0 -Declipse.home=E:\programs\eclipse -Dhadoop.home=E:\programs\hadoop-2.6.0

執行的時候出現過找不到build目錄,後面從新執行一下又能夠,想不通爲何。eclipse

8.找到編譯的包,在hadoop2x-eclipse-plugin-master\build\contrib\eclipse-plugin目錄下。

參考文章:windows編譯hadoop 2.x Hadoop-eclipse-plugin插件

2、配置

安裝好了hadoop插件以後,就是配置使用hadoop插件了,除了在linux要安裝hadoop,在咱們的eclipse開發電腦上也須要有hadoop的安裝目錄,並且版本必須和集羣上同樣。

參考文章:Hadoop集羣(第7期)_Eclipse開發環境設置,拉到「2.4 Eclipse插件開發配置」這一小節,第二步開始,第一步能夠省略。

新建Map/Reduce locations的配置

Map/Reduce(V2) Master

hadoop1.x:和mapred-site.xml的mapreduce.jobtracker.address對應。

hadoop2.x:和hdfs-site.xml的mapred.job.tracker.http.address對應。

注意:有些時候Map/Reduce(V2) Master的端口配錯了,同樣能夠在eclipse運行程序。

DFS Master

hadoop1.x:和core-site.xml的fs.default.name對應。

hadoop2.x:和hdfs-site.xml的dfs.namenode.rpc-address對應。

相關文章
相關標籤/搜索