3.1 Storm集群組件

Storm集群中包含兩類(lèi)節(jié)點(diǎn)：主控節(jié)點(diǎn)（Master Node）和工作節(jié)點(diǎn)（Work Node）。其分別對(duì)應(yīng)的角色如下：

1. 主控節(jié)點(diǎn)（Master Node）上運(yùn)行一個(gè)被稱(chēng)為Nimbus的后臺(tái)程序，它負(fù)責(zé)在Storm集群內(nèi)分發(fā)代碼，分配任務(wù)給工作機(jī)器，并且負(fù)責(zé)監(jiān)控集群運(yùn)行狀態(tài)。Nimbus的作用類(lèi)似于Hadoop中JobTracker的角色。

2. 每個(gè)工作節(jié)點(diǎn)（Work Node）上運(yùn)行一個(gè)被稱(chēng)為Supervisor的后臺(tái)程序。Supervisor負(fù)責(zé)監(jiān)聽(tīng)從Nimbus分配給它執(zhí)行的任務(wù)，據(jù)此啟動(dòng)或停止執(zhí)行任務(wù)的 工作進(jìn)程。每一個(gè)工作進(jìn)程執(zhí)行一個(gè)Topology的子集；一個(gè)運(yùn)行中的Topology由分布在不同工作節(jié)點(diǎn)上的多個(gè)工作進(jìn)程組成。

Storm集群組件

Nimbus和Supervisor節(jié)點(diǎn)之間所有的協(xié)調(diào)工作是通過(guò)Zookeeper集群來(lái)實(shí)現(xiàn)的。此外，Nimbus 和Supervisor進(jìn)程都是快速失?。╢ail-fast)和無(wú)狀態(tài)（stateless）的；Storm集群所有的狀態(tài)要么在Zookeeper集 群中，要么存儲(chǔ)在本地磁盤(pán)上。這意味著你可以用kill -9來(lái)殺死Nimbus和Supervisor進(jìn)程，它們?cè)谥貑⒑罂梢岳^續(xù)工作。這個(gè)設(shè)計(jì)使得Storm集群擁有不可思議的穩(wěn)定性。

3.2 安裝Storm集群

這一章節(jié)將詳細(xì)描述如何搭建一個(gè)Storm集群。下面是接下來(lái)需要依次完成的安裝步驟：

1. 搭建Zookeeper集群；

2. 安裝Storm依賴(lài)庫(kù)；

3. 下載并解壓Storm發(fā)布版本；

4. 修改storm.yaml配置文件；

5. 啟動(dòng)Storm各個(gè)后臺(tái)進(jìn)程。

3.2.1 搭建Zookeeper集群

Storm使用Zookeeper協(xié)調(diào)集群，由于Zookeeper并不用于消息傳遞，所以Storm給Zookeeper帶來(lái)的壓力相當(dāng)?shù)汀４蠖?數(shù)情況下，單個(gè)節(jié)點(diǎn)的Zookeeper集群足夠勝任，不過(guò)為了確保故障恢復(fù)或者部署大規(guī)模Storm集群，可能需要更大規(guī)模節(jié)點(diǎn)的Zookeeper集 群（對(duì)于Zookeeper集群的話，官方推薦的最小節(jié)點(diǎn)數(shù)為3個(gè)）。在Zookeeper集群的每臺(tái)機(jī)器上完成以下安裝部署步驟：

1. 下載安裝Java JDK，官方下載鏈接為http://java.sun.com/javase/downloads/index.jsp，JDK版本為JDK 6或以上。

2. 根據(jù)Zookeeper集群的負(fù)載情況，合理設(shè)置Java堆大小，盡可能避免發(fā)生swap，導(dǎo)致Zookeeper性能下降。保守起見(jiàn)，4GB內(nèi)存的機(jī)器可以為Zookeeper分配3GB***堆空間。

3. 下載后解壓安裝Zookeeper包，官方下載鏈接為http://hadoop.apache.org/zookeeper/releases.html。

4. 根據(jù)Zookeeper集群節(jié)點(diǎn)情況，在conf目錄下創(chuàng)建Zookeeper配置文件zoo.cfg：

tickTime=2000 
dataDir=/var/zookeeper/ 
clientPort=2181 
initLimit=5 
syncLimit=2 
server.1=zoo1:2888:3888 
server.2=zoo2:2888:3888 
server.3=zoo3:2888:3888 

其中，dataDir指定Zookeeper的數(shù)據(jù)文件目錄；其中server.id=host:port:port，id是為每個(gè) Zookeeper節(jié)點(diǎn)的編號(hào)，保存在dataDir目錄下的myid文件中，zoo1~zoo3表示各個(gè)Zookeeper節(jié)點(diǎn)的hostname，***個(gè)port是用于連接leader的端口，第二個(gè)port是用于leader選舉的端口。

5. 在dataDir目錄下創(chuàng)建myid文件，文件中只包含一行，且內(nèi)容為該節(jié)點(diǎn)對(duì)應(yīng)的server.id中的id編號(hào)。

6. 啟動(dòng)Zookeeper服務(wù)：

java -cp zookeeper.jar:lib/log4j-1.2.15.jar:conf \ org.apache.zookeeper.server.quorum.QuorumPeerMain zoo.cfg 

或者

bin/zkServer.sh start 

7. 通過(guò)Zookeeper客戶端測(cè)試服務(wù)是否可用：

java -cp zookeeper.jar:src/java/lib/log4j-1.2.15.jar:conf:src/java/lib/jline-0.9.94.jar \ org.apache.zookeeper.ZooKeeperMain -server 127.0.0.1:2181 

或者

bin/zkCli.sh -server 127.0.0.1:2181 

注意事項(xiàng)：

1. 由于Zookeeper是快速失?。╢ail-fast)的，且遇到任何錯(cuò)誤情況，進(jìn)程均會(huì)退出，因此，***能通過(guò)監(jiān)控程序?qū)ookeeper管理起來(lái)，保證Zookeeper退出后能被自動(dòng)重啟。詳情參考這里。
2. Zookeeper運(yùn)行過(guò)程中會(huì)在dataDir目錄下生成很多日志和快照文件，而Zookeeper運(yùn)行進(jìn)程并不負(fù)責(zé)定期清理合并這些文件，導(dǎo)致占用大量磁盤(pán)空間，因此，需要通過(guò)cron等方式定期清除沒(méi)用的日志和快照文件。詳情參考這里。 具體命令格式如下：java -cp zookeeper.jar:log4j.jar:conf org.apache.zookeeper.server.PurgeTxnLog <dataDir> <snapDir> -n <count>

#p#

3.2.2 安裝Storm依賴(lài)庫(kù)

接下來(lái)，需要在Nimbus和Supervisor機(jī)器上安裝Storm的依賴(lài)庫(kù)，具體如下：

1. ZeroMQ 2.1.7 – 請(qǐng)勿使用2.1.10版本，因?yàn)樵摪姹镜囊恍﹪?yán)重bug會(huì)導(dǎo)致Storm集群運(yùn)行時(shí)出現(xiàn)奇怪的問(wèn)題。少數(shù)用戶在2.1.7版本會(huì)遇到”IllegalArgumentException”的異常，此時(shí)降為2.1.4版本可修復(fù)這一問(wèn)題。

2. JZMQ

3. Java 6

4. Python 2.6.6

5. unzip

以上依賴(lài)庫(kù)的版本是經(jīng)過(guò)Storm測(cè)試的，Storm并不能保證在其他版本的Java或Python庫(kù)下可運(yùn)行。

3.2.2.1 安裝ZMQ 2.1.7

下載后編譯安裝ZMQ：

注意事項(xiàng)：

3.2.2.2 安裝JZMQ

為了保證JZMQ正常工作，可能需要完成以下配置：

1. 正確設(shè)置 JAVA_HOME環(huán)境變量
2. 安裝Java開(kāi)發(fā)包
3. 升級(jí)autoconf
4. 如果你是Mac OSX，參考這里

注意事項(xiàng)：

3.2.2.3 安裝Java 6

1. 下載并安裝JDK 6，參考這里；

2. 配置JAVA_HOME環(huán)境變量；

3. 運(yùn)行java、javac命令，測(cè)試java正常安裝。

3.2.2.4 安裝Python2.6.6

1. 下載Python2.6.6：

2. 編譯安裝Python2.6.6：

3. 測(cè)試Python2.6.6：

3.2.2.5 安裝unzip

1. 如果使用RedHat系列Linux系統(tǒng)，執(zhí)行以下命令安裝unzip：

2. 如果使用Debian系列Linux系統(tǒng)，執(zhí)行以下命令安裝unzip：

3.2.3 下載并解壓Storm發(fā)布版本

下一步，需要在Nimbus和Supervisor機(jī)器上安裝Storm發(fā)行版本。

1. 下載Storm發(fā)行版本，推薦使用Storm0.8.1：

2. 解壓到安裝目錄下：

#p#

3.2.4 修改storm.yaml配置文件

Storm發(fā)行版本解壓目錄下有一個(gè)conf/storm.yaml文件，用于配置Storm。默認(rèn)配置在這里可以查看。conf/storm.yaml中的配置選項(xiàng)將覆蓋defaults.yaml中的默認(rèn)配置。以下配置選項(xiàng)是必須在conf/storm.yaml中進(jìn)行配置的：

1) storm.zookeeper.servers: Storm集群使用的Zookeeper集群地址，其格式如下：

如果Zookeeper集群使用的不是默認(rèn)端口，那么還需要storm.zookeeper.port選項(xiàng)。

2) storm.local.dir: Nimbus和Supervisor進(jìn)程用于存儲(chǔ)少量狀態(tài)，如jars、confs等的本地磁盤(pán)目錄，需要提前創(chuàng)建該目錄并給以足夠的訪問(wèn)權(quán)限。然后在storm.yaml中配置該目錄，如：

3) java.library.path: Storm使用的本地庫(kù)（ZMQ和JZMQ）加載路徑，默認(rèn)為”/usr/local/lib:/opt/local/lib:/usr/lib”，一般來(lái)說(shuō)ZMQ和JZMQ默認(rèn)安裝在/usr/local/lib 下，因此不需要配置即可。

4) nimbus.host: Storm集群Nimbus機(jī)器地址，各個(gè)Supervisor工作節(jié)點(diǎn)需要知道哪個(gè)機(jī)器是Nimbus，以便下載Topologies的jars、confs等文件，如：

5) supervisor.slots.ports: 對(duì)于每個(gè)Supervisor工作節(jié)點(diǎn)，需要配置該工作節(jié)點(diǎn)可以運(yùn)行的worker數(shù)量。每個(gè)worker占用一個(gè)單獨(dú)的端口用于接收消息，該配置選項(xiàng)即 用于定義哪些端口是可被worker使用的。默認(rèn)情況下，每個(gè)節(jié)點(diǎn)上可運(yùn)行4個(gè)workers，分別在6700、6701、6702和6703端口，如：

3.2.5 啟動(dòng)Storm各個(gè)后臺(tái)進(jìn)程

***一步，啟動(dòng)Storm的所有后臺(tái)進(jìn)程。和Zookeeper一樣，Storm也是快速失?。╢ail-fast)的系統(tǒng)，這樣Storm才能在 任意時(shí)刻被停止，并且當(dāng)進(jìn)程重啟后被正確地恢復(fù)執(zhí)行。這也是為什么Storm不在進(jìn)程內(nèi)保存狀態(tài)的原因，即使Nimbus或Supervisors被重 啟，運(yùn)行中的Topologies不會(huì)受到影響。

以下是啟動(dòng)Storm各個(gè)后臺(tái)進(jìn)程的方式：

1. Nimbus: 在Storm主控節(jié)點(diǎn)上運(yùn)行”bin/storm nimbus >/dev/null 2>&1 &”啟動(dòng)Nimbus后臺(tái)程序，并放到后臺(tái)執(zhí)行；
2. Supervisor: 在Storm各個(gè)工作節(jié)點(diǎn)上運(yùn)行”bin/storm supervisor >/dev/null 2>&1 &”啟動(dòng)Supervisor后臺(tái)程序，并放到后臺(tái)執(zhí)行；
3. UI: 在Storm主控節(jié)點(diǎn)上運(yùn)行”bin/storm ui >/dev/null 2>&1 &”啟動(dòng)UI后臺(tái)程序，并放到后臺(tái)執(zhí)行，啟動(dòng)后可以通過(guò)http://{nimbus host}:8080觀察集群的worker資源使用情況、Topologies的運(yùn)行狀態(tài)等信息。

注意事項(xiàng)：

至此，Storm集群已經(jīng)部署、配置完畢，可以向集群提交拓?fù)溥\(yùn)行了。

3.3 向集群提交任務(wù)

1. 啟動(dòng)Storm Topology：

其中，allmycode.jar是包含Topology實(shí)現(xiàn)代碼的jar包，org.me.MyTopology的main方法是Topology的入口，arg1、arg2和arg3為org.me.MyTopology執(zhí)行時(shí)需要傳入的參數(shù)。

2. 停止Storm Topology：

其中，{toponame}為T(mén)opology提交到Storm集群時(shí)指定的Topology任務(wù)名稱(chēng)。

3.4 參考資料

1. https://github.com/nathanmarz/storm/wiki/Tutorial

2. https://github.com/nathanmarz/storm/wiki/Setting-up-a-Storm-cluster

原文鏈接：http://blog.linezing.com/2013/01/how-to-install-and-deploy-storm-cluster?spm=0.0.0.0.b81yAC