cloudra安裝hadoop集羣

http://archive-primary.cloudera.com/cdh5/parcels/5.3.2/
http://www.cnblogs.com/oftenlin/p/4217670.html
http://www.jianshu.com/p/57179e03795f
準備工做

如下步驟要在全部節點上執行
1.1修改hostname
vi /etc/sysconfig/network
1.2關閉SELinux
查看SELinux狀態getenforce
若SELinux沒有關閉，按照下述方式關閉
vi /etc/selinux/config
修改SELinux=disabled。重啓生效，能夠等後面都設置完了重啓主機
1.3關閉防火牆
sudo service iptables stop
sudo chkconfig iptables off
sudo chkconfig iptables --list
1.4網絡配置
vim /etc/sysconfig/network-scripts/ifcfg-eth0
DEVICE="eth0"
BOOTPROTO="static"
IPADDR=192.168.1.110
NM_CONTROLLED="yes"
ONBOOT="yes"
TYPE="Ethernet"
DNS1=8.8.8.8
DNS2=8.8.4.4
GATEWAY=192.168.1.1
1.5修改host
127.0.0.1          localhost#必須配置
# CDH Cluster
192.168.88.149   h01
192.168.88.148   h02
192.168.88.150   h03


配置綿密登陸

2.提早下載(本教程中，CM和CDH版本均爲5.2.0)
2.1下載cloudera-manager.repo下載cloudera-manager.repo #########333http://archive.cloudera.com/cm5/redhat/6/x86_64/cm/cloudera-manager.repo
2.2下載CM installer   #######http://archive.cloudera.com/cm5/installer/5.2.0/cloudera-manager-installer.bin
2.3下載CM rpms，目錄下所有下載出來 #######http://archive.cloudera.com/cm5/redhat/6/x86_64/cm/5.2.0/RPMS/x86_64/
2.4下載CDH Parcel文件，只須要下載圖中所示的3個文件
#http://archive.cloudera.com/cdh5/parcels/5.2.0/CDH-5.2.0-1.cdh5.2.0.p0.36-el6.parcel
#http://archive.cloudera.com/cdh5/parcels/5.2.0/CDH-5.2.0-1.cdh5.2.0.p0.36-el6.parcel.sha1 ###.sha1文件後綴更改成.sha，同時把內容只保留hash碼部分
#http://archive.cloudera.com/cdh5/parcels/5.2.0/manifest.json

3.Cloudera Manager安裝[全部節點]
3.1將cloudera-manager.repo文件拷貝到全部節點的/etc/yum.repos.d/文件夾下
mv cloudera-manager.repo /etc/yum.repos.d/
3.2驗證repo文件是否起效[root@h01 ~]#
 vi /etc/yum.conf
timeout=50000
yum list|grep cloudera
若是列出的不是你安裝的版本，執行下面命令重試
yum clean all
yum list | grep cloudera
3.3將以前下載的rpms文件拷貝到全部節點下（任意目錄）
切換到rpms目錄下，執行
yum -y install *.rpm
3.4下載CDH將以前下載的Parcel那3個文件拷貝到/opt/cloudera/parcel-repo目錄下（若是沒有該目錄，請自行建立）
mv manifest.json /opt/cloudera/parcel-repo
root@h02 soft]# mv CDH-5.2.0-1.cdh5.2.0.p0.36-el6.parcel /opt/cloudera/parcel-repo
mv CDH-5.2.0-1.cdh5.2.0.p0.36-el6.parcel.sha1 /opt/cloudera/parcel-repo
mv CDH-5.2.0-1.cdh5.2.0.p0.36-el6.parcel.sha1 CDH-5.2.0-1.cdh5.2.0.p0.36-el6.parcel.sha
至此，/opt/cloudera/parcel-repo下面有三個文件： CDH-5.2.0-1.cdh5.2.0.p0.36-el6.parcel
mainfest.json
CDH-5.2.0-1.cdh5.2.0.p0.36-el6.parcel.sha

在master 節點安裝daemons、server、agent（先裝daemons）(rpm -ivh *.rpm)
yum --nogpgcheck localinstall cloudera-manager-daemons-5.2.1-1.cm521.p0.109.el6.x86_64.rpm
yum --nogpgcheck localinstall cloudera-manager-server-5.2.1-1.cm521.p0.109.el6.x86_64.rpm
yum --nogpgcheck localinstall cloudera-manager-agent-5.2.1-1.cm521.p0.109.el6.x86_64.rpm（注：agent安裝須要聯網）
在slave-一、slave-2節點安裝daemons、agent（先裝daemons）
yum --nogpgcheck localinstall cloudera-manager-daemons-5.2.1-1.cm521.p0.109.el6.x86_64.rpm
yum --nogpgcheck localinstall cloudera-manager-agent-5.2.1-1.cm521.p0.109.el6.x86_64.rpm（注：agent安裝須要聯網）
在master、slave-一、slave-2 節點安裝JDK、oraclejdk
rpm -ivh jdk-6u31-linux-amd64.rpm

##############如下步驟請只在主節點上執行：
將下載好的bin文件拷貝到主節點任意目錄下
進入該目錄，給bin文件賦予可執行權限
sudo chmod +x ./cloudera-manager-installer.bin
安裝CM
./cloudera-manager-installer.bin
/etc/cloudera-scm-server/db.properties
接下來所有next和yes就好了，由於所須要的rpm包已經提早下載下來了，這個過程會進行的很是快。

master節點配置cloudera manager
.啓動cm server ：service cloudera-scm-server start

4.添加cm server服務 ：chkconfig cloudera-scm-server on

5.啓動cm agent ：chkconfig cloudera-scm-agent on

6.添加cm agent服務 ：service cloudera-scm-server start

9、修改全部節點的agent 配置文件

/etc/cloudera-scm-agent/config.ini 將配置文件中的host 改爲 cdh-master

10、在slave節點配置cloudera manager  agent程序

1.啓動cm agent ：chkconfig cloudera-scm-agent on

2.添加cm agent服務 ：service cloudera-scm-server start
11、測試agent和server是否通訊成功
   service cloudera-scm-server status
   service cloudera-scm-agent status
   netstat –anp | grep 7182
  # server 端開啓的是7182端口，用於和agent進行通信
   啓動失敗時能夠查看日誌
   server 日誌 /var/log/cloudera-scm-server
   agent 日誌 /var/log/cloudera-scm-agent
CDH集羣安裝
CM安裝成功後瀏覽器輸入http://ip:7180,ip是CM安裝的主機ip或者主機名。顯示以下界面，用戶名和密碼都輸入admin，進入web管理界面。




2、卸載步驟

記錄卸載過程和問題。現有環境Cloudera Manager + (1 + 2 )的CDH環境。
一、先在Manage管理端移除全部服務。
二、刪除Manager Server
在Manager節點運行
 /usr/share/cmf/uninstall-cloudera-manager.sh若是沒有該腳本，則能夠手動刪除，先中止服務：
 service cloudera-scm-server stop
 service cloudera-scm-server-db stop而後刪除：
 yum remove cloudera-manager-serversudo
 yum remove cloudera-manager-server-db3 、刪除全部CDH節點上的CDH服務，先中止服務：
  service cloudera-scm-agent hard_stop卸載安裝的軟件：
 yum remove 'cloudera-manager-*' hadoop hue-common 'bigtop-*'四、刪除殘餘數據：
  rm -Rf /usr/share/cmf /var/lib/cloudera* /var/cache/yum/cloudera*
  五、kill掉全部Manager和Hadoop進程（選做，若是你正確中止Cloud Manager和全部服務則無須此步）

$ for u in hdfs mapred cloudera-scm hbase hue zookeeper oozie hive impala flume; do sudo kill $(ps -u $u -o pid=); done六、刪除Manager的lock文件
在Manager節點運行：
rm /tmp/.scm_prepare_node.lock至此，刪除完成。
/var/log/cloudera-manager-installer/3.install-cloudera-manager-server.log
http://archive-primary.cloudera.com/cm5/redhat/5/x86_64/cm/5.2.1/RPMS/x86_64/