zookeeper單機搭建和storm單機配置運行

Zookeeper ZooKeeper是一個分佈式的,開放源碼的分佈式應用程序協調服務,是Google的Chubby一個開源的實現,是Hadoop和Hbase的重要組件。它是一個爲分佈式應用提供一致性服務的軟件,提供的功能包括:配置維護、域名服務、分佈式同步、組服務等。 ZooKeeper的目標就是封裝好複雜易出錯的關鍵服務,將簡單易用的接口和性能高效、功能穩定的系統提供給用戶。 ZooKeeper包含一個簡單的原語集,提供Java和C的接口。 ZooKeeper代碼版本中,提供了分佈式獨享鎖、選舉、隊列的接口,代碼在zookeeper-3.4.8\src\recipes。其中分佈鎖和隊列有Java和C兩個版本,選舉只有Java版本。html

Zookeeper安裝 下載後將conf/zoo_sample.cfg修改成zoo.cfg,修改其中內容 配置文件簡單解析 1tickTime:這個時間是做爲 Zookeeper 服務器之間或客戶端與服務器之間維持心跳的時間間隔,也就是每一個 tickTime 時間就會發送一個心跳。 二、dataDir:顧名思義就是 Zookeeper 保存數據的目錄,默認狀況下,Zookeeper 將寫數據的日誌文件也保存在這個目錄裏。 三、dataLogDir:顧名思義就是 Zookeeper 保存日誌文件的目錄 四、clientPort:這個端口就是客戶端鏈接 Zookeeper 服務器的端口,Zookeeper 會監聽這個端口,接受客戶端的訪問請求。 如下目錄使用反斜槓 tickTime=2000 dataDir=D:/ubuntu-storm/workspace/zookeeper/data dataLogDir=D:/ubuntu-storm/workspace/zookeeper/logs clientPort=2181java

啓動zookeeper 進入到其bin目錄,而且啓動zkServer.cmd,這個腳本中會啓動一個java進程。處於監聽狀態。 啓動後使用系統jps命令能夠看到QuorumPeerMain的進程。Jps –l –v 啓動客戶端鏈接zkCli.cmd 127.0.0.1:2181 鏈接成功便可python

退出時ctrl+c或quit Zookeeper能夠配置僞集羣,參考 https://www.cnblogs.com/cheyunhua/p/8595448.htmlshell

storm配置 配置storm的conf/storm.yaml • zk集羣地址 • storm.zookeeper.servers: • - "127.0.0.1" • Nimbus and Supervisor須要的本地狀態等信息存儲的目錄 、每一個目錄都不一樣,此處爲反斜槓 storm.local.dir: " D/ubuntu-storm/workspace/stormlocal/data " • Nimbus master機器地址,用於toplogy jars和配置信息的分發 nimbus.seeds: ["127.0.0.1"] 增長ui端口 Ui.port: 9999ubuntu

每一個機器節點工做的woker的端口,每一個supervisor或nimbus能夠區分開,配置不一樣worker的端口 supervisor.slots.ports: - 8700 - 8701 - 8702瀏覽器

  • 8703

嘗試啓動 參考https://blog.csdn.net/caridle/article/details/76412083 報錯參考http://www.javashuo.com/article/p-xvkqkviq-hp.html 啓動zookeeper服務,運行zkServer.cmd。依次執行下列命令, cmd bin\storm nimbus 啓動失敗、建議用Powershell storm.ps1 script替代啓動 啓動master上的nimbus storm.ps1 nimbus 啓動各個supervisor storm.ps1 supervisor 啓動UI監控 storm.ps1 ui 在瀏覽器打開ui,127.0.0.1:9999/iindex.html 能夠看到stormUI,啓動成功服務器

選用python腳本啓動 bin\storm.py nimbus bin\storm.py supervisor bin\storm.py ui分佈式

執行任務 上傳本身的容許的storm jar到master上,在UI中查看監控執行狀況 bin\storm jar allmycode.jar org.me.MyTopology arg1 arg2 arg3oop

相關文章
相關標籤/搜索