1、準備工做:html
基本工具java
yum
rpm
scp
curl
wget
pdsh
前幾個通常系統都自帶了,pdsh須要本身裝
- yum install pdsh
二、配置hostsmysql
vim /etc/hostslinux
三、配置ssh免登陸
- 10.*.*.120 master master.hadoop.test
- 10.*.*.121 dn1 dn1.hadoop.test
- 10.*.*.122 dn2 dn2.hadoop.test
- 10.*.*.123 dn3 dn3.hadoop.test
選定master.Hadoop.test做爲ambari server,須要配置該節點到其它節點的ssh免登陸ios
- cd ~
- ssh-keygen
一直按回車,會生成默認的公鑰和私鑰
執行
- .ssh/id_rsa
- .ssh/id_rsa.pub
- chmod 700 ~/.ssh
- chmod 600 ~/.ssh/authorized_keys
配置本地的免登陸
- cat ~/.ssh/id_rsa.pub >> ~/.ssh/authorized_keys
配置其它節點的免登錄
- scp ~/.ssh/authorized_keys dn1:/root/.ssh/
- scp ~/.ssh/authorized_keys dn2:/root/.ssh/
- scp ~/.ssh/authorized_keys dn3:/root/.ssh/
將私鑰從master上下載下來,配置ambari agent時會用到
- .ssh/id_rsa
同步集羣的時間(ntp)
其它web
- setenforce 0
- chkconfig iptables off
- /etc/init.d/iptables stop
- umask 022
Disable PackageKitsql
- vim /etc/yum/pluginconf.d/refresh-packagekit.conf
將內容改成enabled=0
2、安裝Ambari Server數據庫
添加yum資源庫vim
因爲公司安全機制,這個地方可能不會安裝成功
- wget http://public-repo-1.hortonworks.com/ambari/centos6/1.x/updates/1.2.4.9/ambari.repo
- cp ambari.repo /etc/yum.repos.d
- yum install epel-release
看下有沒有
- yum repolist
若是有的話,就能夠開始安裝了
- repo id repo name
- AMBARI-1.x | Ambari 1.x
- HDP-UTILS-1.1.0.15 | Hortonworks Data Platform Utils Version - HDP-UT
- epel | Extra Packages for Enterprise Linux 6 - x86_64
- yum install ambari-server
實驗證實,網速巨慢,耐心。。。
等待安裝完成後
會提示安裝jdk,網速好的能夠肯定,不然能夠下載jdk-6u31-linux-x64.bin,放到/var/lib/ambari-server/resources/下面
1##指定JAVA_HOME ambari-server setup -j /usr/java/default ##不指定JAVA_HOME執行 ambari-server setupcentos
接着會提示配置用的數據庫,能夠選擇Oracle或postgresql,選擇n會按默認配置
數據庫類型:postgresql
數據庫:ambari
用戶名:ambari
密碼:bigdata
若是提示Oracle JDK license,yes
等待安裝完成
啓動Ambari Server
而後訪問:http://master:8080
- ambari-server start
不出意外的話就安裝完成了
用戶名/密碼:admin/admin
3、配置Ambari
給集羣起個名字
選擇HDP的版本
配置Agent:
等待配置完成,而後選擇服務,等待安裝完成不支持ip,輸入hosts
選擇ssh私鑰,選擇第一步生成的id_rsa
PS:
下面是離線安裝yum源
生產中的hadoop集羣機器都不少,並且基本都不容許鏈接公網,爲方便快速部署,很是有必要創建一個本地Repository,下面詳細介紹創建過程。
主要資源:
yum install yum-utils createrepo yum-plugin-priorities
yum install httpd
編輯/etc/yum/pluginconf.d/priorities.conf,修改成以下:
[main]
enabled=1
gpgcheck=0
若是安裝了PackageKit,還需修改/etc/yum/pluginconf.d/refresh-packagekit.conf爲以下:
enabled=0
設置httpd:
chkconfig httpd on
service httpd start
資源下載主要有兩種方式:
2.1 直接下載(推薦):
採用P2P下載工具(如迅雷等)下載上述主要資源的完整包,再上傳到本地源服務器進行部署的方式是最快的,由於迅雷等下載工具下載上述資源要比直接同步快不少。各資源主要路徑以下:
CenOS最新鏡像下載點:
http://isoredirect.centos.org/centos/6/isos/x86_64/
下載後掛載,並拷貝全部內容到/var/www/html/centos65
mount -o loop /tmp/CentOS-6.5-x86_64-bin-DVD1.iso /media
cp -r /media /var/www/html/centos65
umount /media
下載拷貝HDP-2.1和HDP-UTILS-1.1.0.17並解壓到/var/www/html/hdp
http://public-repo-1.hortonworks.com/HDP/centos6/2.x/GA/2.1-latest/HDP-2.1-latest-centos6-rpm.tar.gz
http://public-repo-1.hortonworks.com/HDP-UTILS-1.1.0.17/repos/centos6/HDP-UTILS-1.1.0.17-centos6.tar.gz
tar xf HDP-2.1-latest-centos6-rpm.tar.gz –C /var/www/html/hdp
tar xf HDP-UTILS-1.1.0.17-centos6.tar.gz –C /var/www/html/hdp
拷貝Ambari-1.5.1並解壓到/var/www/ambari
http://public-repo-1.hortonworks.com/ambari/centos6/ambari-1.5.1-centos6.tar.gz
tar xf ambari-1.5.1-centos6.tar.gz –C /var/www/html/ambari
完成後結構以下:
[root@yum html]# tree -L 2
.
├── ambari
│ └── centos6
├── centos65
│ ├── CentOS_BuildTag
│ ├── EFI
│ ├── EULA
│ ├── GPL
│ ├── images
│ ├── isolinux
│ ├── Packages
│ ├── RELEASE-NOTES-en-US.html
│ ├── repodata
│ ├── RPM-GPG-KEY-CentOS-6
│ ├── RPM-GPG-KEY-CentOS-Debug-6
│ ├── RPM-GPG-KEY-CentOS-Security-6
│ ├── RPM-GPG-KEY-CentOS-Testing-6
│ └── TRANS.TBL
└── hdp
├── HDP
└── HDP-UTILS-1.1.0.17[root@yum html]# tree ambari hdp -L 4
ambari
└── centos6
└── 1.x
└── updates
└── 1.5.1
hdp
├── HDP
│ └── centos6
│ └── 2.x
│ └── updates
└── HDP-UTILS-1.1.0.17
└── repos
└── centos6
├── epel-release-6-8.noarch.rpm
├── extjs
├── fping
├── ganglia
├── hadoop-lzo
├── hdp-util.repo
├── libconfuse
├── lzo
├── mysql-connector-java
├── nagios
├── nagios-plugins
├── pdsh
├── perl
├── puppet
├── repodata
├── RPM-GPG-KEY
├── rrdtool
└── snappy27 directories, 2 files
[root@yum html]# tree ambari hdp -L 5
ambari
└── centos6
└── 1.x
└── updates
└── 1.5.1
hdp
├── HDP
│ └── centos6
│ └── 2.x
│ └── updates
│ └── 2.1.2.0
└── HDP-UTILS-1.1.0.17
└── repos
└── centos6
2.2 採用reposync直接同步公共源(不推薦,若是用了2.1的方法,就不須要這一步):
對於CentOS的Repo源,建議採用國內的搜狐或163等,速度最快,以下:
wget http://mirrors.163.com/.help/CentOS-Base-163.repo -O /etc/yum.repos.d/CentOS-Base-163.repo
wget http://public-repo-1.hortonworks.com/ambari/centos6/1.x/updates/1.5.1/ambari.repo -O /etc/yum.repos.d/ambari.repo
wget http://public-repo-1.hortonworks.com/HDP/centos6/2.x/GA/2.1-latest/hdp.repo -O /etc/yum.repos.d/hdp.repo
查看當前源中有的repo列表:
yum repolist
同步Ambari:
cd /var/www/html
mkdir -p ambari/centos6
cd ambari/centos6
reposync -r Updates-ambari-1.5.1
同步HDP:
mkdir -p hdp/centos6
cd hdp/centos6
reposync -r HDP-2.1.2.0
reposync -r HDP-UTILS-1.1.0.17
注意:HDP有2.1GB大,下載很是慢,須要長時間等待。
建立repo(根據實際路徑配置,有可能不同):
createrepo /var/www/html/ambari/centos6/Updates-ambari-1.5.1
createrepo /var/www/html/hdp/centos6/HDP-2.1.2.0
createrepo /var/www/html/hdp/centos6/HDP-UTILS-1.1.0.17
建立完成後,就能夠經過web路徑訪問測試了(路徑可能不一樣):
個人本地repo配置文件以下:
[CentOS6-Media]
name=CentOS6-Media
baseurl=http://172.18.8.200/centos65
gpgcheck=1
enabled=1
gpgkey=file:///etc/pki/rpm-gpg/RPM-GPG-KEY-CentOS-6[Ambari-1.5.1]
name=Ambari-1.5.1
baseurl=http://172.18.8.200/ambari/centos6/1.x/updates/1.5.1
gpgcheck=0
enabled=1[HDP-2.1.2.0]
name=HDP-2.1.2.0
baseurl=http://172.18.8.200/hdp/HDP/centos6/2.x/updates/2.1.2.0
gpgcheck=0
enabled=1[HDP-UTILS-1.1.0.17]
name=HDP-UTILS-1.1.0.17
baseurl=http://172.18.8.200/hdp/HDP-UTILS-1.1.0.17/repos/centos6
gpgcheck=0
enabled=1
配置好後,便可移除全部節點的本地原來的repo文件,使用本地repo源進行安裝centos自帶軟件、ambari、hdp(包含全部hadoop軟件)了。
我的博客地址:http://julyme.com