Storm集羣的搭建與配置

安裝Storm集羣

這一章節將詳細描述如何搭建一個Storm集羣。下面是接下來須要依次完成的安裝步驟：

• 搭建Zookeeper集羣；

• 安裝Storm依賴庫；

• 下載並解壓Storm發佈版本；

• 修改storm.yaml配置文件；

• 啓動Storm各個後臺進程。

一、Zookeeper的搭建參考：http://my.oschina.net/u/2377453/blog/464739

搭建Zookeeper集羣注意事項：

1. 因爲Zookeeper是快速失敗（fail-fast)的，且遇到任何錯誤狀況，進程均會退出，所以，最好能經過監控程序將Zookeeper管理起來，保證Zookeeper退出後能被自動重啓。詳情參考這裏。

2. Zookeeper運行過程當中會在dataDir目錄下生成不少日誌和快照文件，而Zookeeper運行進程並不負責按期清理合並這些文件，致使佔用大量磁盤空間，所以，須要經過cron等方式按期清除沒用的日誌和快照文件。詳情參考這裏。具體命令格式以下：java -cp zookeeper.jar:log4j.jar:conf org.apache.zookeeper.server.PurgeTxnLog <dataDir> <snapDir> -n <count>

二、安裝Storm依賴庫

接下來，須要在Nimbus和Supervisor機器上安裝Storm的依賴庫，具體以下：

1. ZeroMQ 2.1.7 – 請勿使用2.1.10版本，由於該版本的一些嚴重bug會致使Storm集羣運行時出現奇怪的問題。少數用戶在2.1.7版本會遇到"IllegalArgumentException"的異常，此時降爲2.1.4版本可修復這一問題。

2. JZMQ

3. Java 6

4. Python 2.6.6

5. unzip

以上依賴庫的版本是通過Storm測試的，Storm並不能保證在其餘版本的Java或Python庫下可運行。

注意：

    安裝過程當中常常出現須要依賴，請務必使用yum安裝各類依賴

    YUM出現問題請參考這篇文章：http://my.oschina.net/u/2377453/blog/466141

三、安裝ZMQ 2.1.7

下載後編譯安裝ZMQ：

#wget    //http://download.zeromq.org/zeromq-2.1.7.tar.gz//下載
#tar -xzf zeromq-2.1.7.tar.gz    //解壓
#cd zeromq-2.1.7    //切換目錄
//編譯且安裝
#./configure        
#make    
#make install

安裝時可能出現以下依賴：
1.安裝c++編譯器
#sudo yum install gcc-c++
2.下載libsodium
//https://github.com/jedisct1/libsodium/archive/1.0.1.tar.gz
3.安裝libtool
#sudo yum install libtool
4.安裝autoconf-2.68
#wget //http://ftp.gnu.org/gnu/autoconf/autoconf-2.68.tar.gz
#./configure
#make && make install

注意事項：

1. 若是安裝過程報錯uuid找不到，則經過以下的包安裝uuid庫：
#yum install uuid*
#yum install e2fsprogs*
2. 若是出現c++編譯環境
#yum install gcc-c++

四、安裝JZMQ

下載後編譯安裝JZMQ：

#wget   // https://codeload.github.com/zeromq/jzmq/zip/master//下載
#unzip jzmq-master.zip //解壓
#cd jzmq-maste    //切換目錄
//編譯安裝
#./autogen.sh
#./configure
#make
#make install

爲了保證JZMQ正常工做，可能須要完成如下配置：

1. 正確設置 JAVA_HOME環境變量

2. 安裝Java開發包

3. 注意事項：

     1. 若是運行./configure命令出現connot find zmq.h

加入兩臺export：
export CPPFLAGS=-I/root/installs/zeromq/include
export LDFLAGS=-L/root/installs/zeromq/lib/

 

五、 安裝Java 6

1. 下載並安裝JDK 6

2. 配置JAVA_HOME環境變量；

3. 運行java、javac命令，測試java正常安裝。

六、安裝Python2.7.10

1. 下載Python2.7.10：

wget https://www.python.org/ftp/python/2.7.10/Python-2.7.10.tar.xz

2. 編譯安裝Python2.7.10：

#xz -d Python-2.7.10.tar.xz//可能須要安裝xz，sudo yum install xz 
#tar –xvf Python-2.7.10.tar.gz  
#cd Python-2.7.10
#./configure
#make
#make install
注意：
一、python默認安裝路徑：/usr/local/bin/pythonN
二、新安裝的python要替代系統自帶的python必須將系統自帶的python的連接文件刪除：/usr/bin/python
三、使用命令建立本身的連接文件：ln -s /usr/local/bin/pythonN /usr/bin/python
N位版本號

3. 測試Python2.7.10：

#python -V
Python 2.7.10

七、安裝unzip

1. 若是使用RedHat系列Linux系統，執行如下命令安裝unzip：

apt-get install unzip

2. 若是使用Debian系列Linux系統，執行如下命令安裝unzip：

yum install unzip

八、下載並解壓Storm發佈版本

下一步，須要在Nimbus和Supervisor機器上安裝Storm發行版本。

1. 下載Storm發行版本，推薦使用Storm0.8.1：

wget https://github.com/downloads/nathanmarz/storm/storm-0.8.1.zip

2. 解壓到安裝目錄下：

unzip storm-0.8.1.zip

3. 修改storm.yaml配置文件

Storm發行版本解壓目錄下有一個conf/storm.yaml文件，用於配置Storm。默認配置在這裏能夠查看。conf/storm.yaml中的配置選項將覆蓋defaults.yaml中的默認配置。如下配置選項是必須在conf/storm.yaml中進行配置的：

注意：配置文件中「：」以及「-」左右兩邊必須有空格（→_→我被坑了很久才發現這個問題）

#配置storm使用的zookeeper集羣的地址
storm.zookeeper.servers:
     - "hostA"
     - "hostB"
#（選配）若是zookeeper默認端口不是2181，則須要配置zookeeper端口
storm.zookeeper.port : 2181
#配置主節點nimbus所在的主機
nimbus.host : "host"
#配置storm的工做目錄
storm.local.dir : "/root/app/storm/tmp"
#配置本地模式下是否使用ZeroQM做爲消息系統，默認爲false：使用java消息系統
storm.local.mode.zmq : true
#配置supervisor節點可使用worker進程的端口,默認狀況爲4個worker進程，端口以下
supervisor.slots.ports : 
 - 6700
 - 6701
 - 6702
 - 6703

九、啓動Storm各個後臺進程

最後一步，啓動Storm的全部後臺進程。和Zookeeper同樣，Storm也是快速失敗（fail-fast)的系統，這樣Storm才能在任意時刻被中止，而且當進程重啓後被正確地恢復執行。這也是爲何Storm不在進程內保存狀態的緣由，即便Nimbus或Supervisors被重啓，運行中的Topologies不會受到影響。

如下是啓動Storm各個後臺進程的方式：

1. Nimbus: 在Storm主控節點上運行"bin/storm nimbus 1 > /dev/null 2 &1 &"啓動Nimbus後臺程序，並放到後臺執行；

2. Supervisor: 在Storm各個工做節點上運行"bin/storm supervisor 1 /dev/null 2 &1 &"啓動Supervisor後臺程序，並放到後臺執行；

3. UI: 在Storm主控節點上運行"bin/storm ui  1 > /dev/null 2 &1 &"啓動UI後臺程序，並放到後臺執行，啓動後能夠經過http://{nimbus host}:8080觀察集羣的worker資源使用狀況、Topologies的運行狀態等信息。

4. 命令解釋：「1 > /dev/null 2 &1」，linux命令，意思是標準輸出（1）到/dev/null，異常輸出（2）一樣輸出到/dev/null（&1就是引用1輸出的位置），&後臺運行，若是在命令最前端加入「nohub」，則變爲即便關閉終端也會繼續運行.

    

注意事項：

1. Storm後臺進程被啓動後，將在Storm安裝部署目錄下的logs/子目錄下生成各個進程的日誌文件。

2. 經測試，Storm UI必須和Storm Nimbus部署在同一臺機器上，不然UI沒法正常工做，由於UI進程會檢查本機是否存在Nimbus連接。

3. 爲了方便使用，能夠將bin/storm加入到系統環境變量中。

至此，Storm集羣已經部署、配置完畢，能夠向集羣提交拓撲運行了。

十、向集羣提交任務

1）啓動Storm Topology：

storm jar allmycode.jar org.me.MyTopology arg1 arg2 arg3

其中，allmycode.jar是包含Topology實現代碼的jar包，org.me.MyTopology的main方法是Topology的入口，arg一、arg2和arg3爲org.me.MyTopology執行時須要傳入的參數。

2）中止Storm Topology：

storm kill {toponame}

其中，{toponame}爲Topology提交到Storm集羣時指定的Topology任務名稱。

參考資料

1. https://github.com/nathanmarz/storm/wiki/Tutorial

2. https://github.com/nathanmarz/storm/wiki/Setting-up-a-Storm-cluster