徹底分佈式部署hadoop

目錄

• 配置集羣
• 啓動集羣

配置集羣

1. 解壓hadoop jar 包

tar -zxvf hadoop-2.7.2.tar.gz -C /opt/module

解壓後的文件

查看文件的用戶和用戶組

這裏不是root用戶便可。

輸入

hadoop

出現如下內容，則環境已經配好

若是出現如下報錯，則在 在hadoop-env.sh中，再顯示地從新聲明一遍JAVA_HOME

1. 配置core-site.xml

配置以下內容

<!-- 指定HDFS中NameNode的地址 -->
    <property>
        <name>fs.defaultFS</name>
        <value>hdfs://192.168.250.151:9090</value>
    </property>
    <!-- 指定hadoop運行時產生文件的存儲目錄 -->
    <property>
        <name>hadoop.tmp.dir</name>
        <value>/opt/module/hadoop-2.7.2/data/tmp</value>
    </property>

1. 配置hadoop-env.sh

配置java_home

export JAVA_HOME=/opt/module/jdk1.8

1. 配置hdfs-site.xml

<!-- 設置副本數 -->
  <property>
    <name>dfs.replication</name>
    <value>3</value>
  </property>
    <property>
        <name>dfs.namenode.secondary.http-address</name>
        <value>192.168.250.153:50090</value>
    </property>

1. 配置slaves

192.168.250.151
192.168.250.152
192.168.250.153

1. 配置yarn-env.sh

配置java_home

export JAVA_HOME=/opt/module/jdk1.8

1. 配置yarn-site.xml

<!-- reducer獲取數據的方式 -->
<property>
    <name>yarn.nodemanager.aux-services</name>
    <value>mapreduce_shuffle</value>
</property>
<!-- 指定yarn的resourcemanager的地址 -->
<property>
    <name>yarn.resourcemanager.hostname</name>
    <value>192.168.250.153</value>
</property>

1. 配置mapred-env.sh

export JAVA_HOME=/opt/module/jdk1.8

1. 配置mapred-site.xml

文件夾中並無mapred-site.xml文件，須要將mapred-site.xml.templete文件重命名爲mapred-site.xml。並添加如下內容

<!-- 指定mr運行在yarn上 -->
    <property>
        <name>mapreduce.framework.name</name>
        <value>yarn</value>
    </property>

1. 將上述文件分發到其餘服務器

分發腳本 xsync.sh

#!/bin/bash
#1 獲取輸入參數個數，若是沒有參數，直接退出
pcount=$#
if ((pcount==0)); then
echo no args;
exit;
fi

#2 獲取文件名稱
p1=$1
fname=`basename $p1`
echo fname=$fname

#3 獲取上級目錄到絕對路徑
pdir=`cd -P $(dirname $p1); pwd`
echo pdir=$pdir

#4 獲取當前用戶名稱
user=`whoami`

#5 循環
for((host=152; host<154; host++)); do
        #echo $pdir/$fname $user@hadoop$host:$pdir
        echo --------------- 192.168.250$host ----------------
        rsync -rvl $pdir/$fname $user@192.168.250.$host:$pdir
done

執行如下命令

[hadoop@hadoop2 bin]$ ./xsync.sh /opt/module/hadoop-2.7.5/etc/hadoop/

啓動集羣

1. 查看集羣是否已經啓動

jps

注意事項：

• jps查看集羣是否啓動
• 查看當前用戶（不是root用戶便可）
• 查看是否在namenode節點上啓動

1. 啓動集羣

在namenode所在的服務器上啓動

sbin.start-dfs.sh

查看集羣是否啓動,啓動一個查看一個

jps

1. 在yarn所在的服務器上啓動yarn

sbin/start-yarn.sh