尚硅谷大數據技術之Zookeeper第4章Zookeeper實戰

4.1 分佈式安裝部署

0）集羣規劃

在hadoop10二、hadoop103和hadoop104三個節點上部署Zookeeper。

1）解壓安裝

（1）解壓zookeeper安裝包到/opt/module/目錄下

[atguigu@hadoop102 software]$ tar -zxvf zookeeper-3.4.10.tar.gz -C /opt/module/

（2）在/opt/module/zookeeper-3.4.10/這個目錄下建立zkData

mkdir -p zkData

（3）重命名/opt/module/zookeeper-3.4.10/conf這個目錄下的zoo_sample.cfg爲zoo.cfg

mv zoo_sample.cfg zoo.cfg

2）配置zoo.cfg文件

（1）具體配置

dataDir=/opt/module/zookeeper-3.4.10/zkData

增長以下配置

#######################cluster##########################

server.2=hadoop102:2888:3888

server.3=hadoop103:2888:3888

server.4=hadoop104:2888:3888

（2）配置參數解讀

Server.A=B:C:D。

A是一個數字，表示這個是第幾號服務器；

B是這個服務器的ip地址；

C是這個服務器與集羣中的Leader服務器交換信息的端口；

D是萬一集羣中的Leader服務器掛了，須要一個端口來從新進行選舉，選出一個新的Leader，而這個端口就是用來執行選舉時服務器相互通訊的端口。

集羣模式下配置一個文件myid，這個文件在dataDir目錄下，這個文件裏面有一個數據就是A的值，Zookeeper啓動時讀取此文件，拿到裏面的數據與zoo.cfg裏面的配置信息比較從而判斷究竟是哪一個server。

3）集羣操做

（1）在/opt/module/zookeeper-3.4.10/zkData目錄下建立一個myid的文件

touch myid

添加myid文件，注意必定要在linux裏面建立，在notepad++裏面極可能亂碼

（2）編輯myid文件

vi myid

在文件中添加與server對應的編號：如2

（3）拷貝配置好的zookeeper到其餘機器上

scp -r zookeeper-3.4.10/ root@hadoop103.atguigu.com:/opt/app/

scp -r zookeeper-3.4.10/ root@hadoop104.atguigu.com:/opt/app/

並分別修改myid文件中內容爲3、4

（4）分別啓動zookeeper

[root@hadoop102 zookeeper-3.4.10]# bin/zkServer.sh start

[root@hadoop103 zookeeper-3.4.10]# bin/zkServer.sh start

[root@hadoop104 zookeeper-3.4.10]# bin/zkServer.sh start

（5）查看狀態

[root@hadoop102 zookeeper-3.4.10]# bin/zkServer.sh status

JMX enabled by default

Using config: /opt/module/zookeeper-3.4.10/bin/../conf/zoo.cfg

Mode: follower

[root@hadoop103 zookeeper-3.4.10]# bin/zkServer.sh status

JMX enabled by default

Using config: /opt/module/zookeeper-3.4.10/bin/../conf/zoo.cfg

Mode: leader

[root@hadoop104 zookeeper-3.4.5]# bin/zkServer.sh status

JMX enabled by default

Using config: /opt/module/zookeeper-3.4.10/bin/../conf/zoo.cfg

Mode: follower

4.2 客戶端命令行操做

命令基本語法	功能描述
help	顯示全部操做命令
ls path [watch]	使用 ls 命令來查看當前znode中所包含的內容
ls2 path [watch]	查看當前節點數據並能看到更新次數等數據
create	普通建立 -s  含有序列 -e  臨時（重啓或者超時消失）
get path [watch]	得到節點的值
set	設置節點的具體值
stat	查看節點狀態
delete	刪除節點
rmr	遞歸刪除節點

1）啓動客戶端

[atguigu@hadoop103 zookeeper-3.4.10]$ bin/zkCli.sh

2）顯示全部操做命令

[zk: localhost:2181(CONNECTED) 1] help

3）查看當前znode中所包含的內容

[zk: localhost:2181(CONNECTED) 0] ls /

[zookeeper]

4）查看當前節點數據並能看到更新次數等數據

[zk: localhost:2181(CONNECTED) 1] ls2 /

[zookeeper]

cZxid = 0x0

ctime = Thu Jan 01 08:00:00 CST 1970

mZxid = 0x0

mtime = Thu Jan 01 08:00:00 CST 1970

pZxid = 0x0

cversion = -1

dataVersion = 0

aclVersion = 0

ephemeralOwner = 0x0

dataLength = 0

numChildren = 1

5）建立普通節點

[zk: localhost:2181(CONNECTED) 2] create /app1 "hello app1"

Created /app1

[zk: localhost:2181(CONNECTED) 4] create /app1/server101 "192.168.1.101"

Created /app1/server101

6）得到節點的值

[zk: localhost:2181(CONNECTED) 6] get /app1

hello app1

cZxid = 0x20000000a

ctime = Mon Jul 17 16:08:35 CST 2017

mZxid = 0x20000000a

mtime = Mon Jul 17 16:08:35 CST 2017

pZxid = 0x20000000b

cversion = 1

dataVersion = 0

aclVersion = 0

ephemeralOwner = 0x0

dataLength = 10

numChildren = 1

[zk: localhost:2181(CONNECTED) 8] get /app1/server101

192.168.1.101

cZxid = 0x20000000b

ctime = Mon Jul 17 16:11:04 CST 2017

mZxid = 0x20000000b

mtime = Mon Jul 17 16:11:04 CST 2017

pZxid = 0x20000000b

cversion = 0

dataVersion = 0

aclVersion = 0

ephemeralOwner = 0x0

dataLength = 13

numChildren = 0

7）建立短暫節點

[zk: localhost:2181(CONNECTED) 9] create -e /app-emphemeral 8888

（1）在當前客戶端是能查看到的

[zk: localhost:2181(CONNECTED) 10] ls /

[app1, app-emphemeral, zookeeper]

（2）退出當前客戶端而後再重啓客戶端

[zk: localhost:2181(CONNECTED) 12] quit

[atguigu@hadoop104 zookeeper-3.4.10]$ bin/zkCli.sh

（3）再次查看根目錄下短暫節點已經刪除

[zk: localhost:2181(CONNECTED) 0] ls /

[app1, zookeeper]

8）建立帶序號的節點

（1）先建立一個普通的根節點app2

[zk: localhost:2181(CONNECTED) 11] create /app2 "app2"

（2）建立帶序號的節點

[zk: localhost:2181(CONNECTED) 13] create -s /app2/aa 888

Created /app2/aa0000000000

[zk: localhost:2181(CONNECTED) 14] create -s /app2/bb 888

Created /app2/bb0000000001

[zk: localhost:2181(CONNECTED) 15] create -s /app2/cc 888

Created /app2/cc0000000002

若是原節點下有1個節點，則再排序時從1開始，以此類推。

[zk: localhost:2181(CONNECTED) 16] create -s /app1/aa 888

Created /app1/aa0000000001

9）修改節點數據值

[zk: localhost:2181(CONNECTED) 2] set /app1 999

10）節點的值變化監聽

（1）在104主機上註冊監聽/app1節點數據變化

[zk: localhost:2181(CONNECTED) 26] get /app1 watch

（2）在103主機上修改/app1節點的數據

[zk: localhost:2181(CONNECTED) 5] set /app1  777

（3）觀察104主機收到數據變化的監聽

WATCHER::

WatchedEvent state:SyncConnected type:NodeDataChanged path:/app1

11）節點的子節點變化監聽（路徑變化）

（1）在104主機上註冊監聽/app1節點的子節點變化

[zk: localhost:2181(CONNECTED) 1] ls /app1 watch

[aa0000000001, server101]

（2）在103主機/app1節點上建立子節點

[zk: localhost:2181(CONNECTED) 6] create /app1/bb 666

Created /app1/bb

（3）觀察104主機收到子節點變化的監聽

WATCHER::

WatchedEvent state:SyncConnected type:NodeChildrenChanged path:/app1

12）刪除節點

[zk: localhost:2181(CONNECTED) 4] delete /app1/bb

13）遞歸刪除節點

[zk: localhost:2181(CONNECTED) 7] rmr /app2

14）查看節點狀態

[zk: localhost:2181(CONNECTED) 12] stat /app1

cZxid = 0x20000000a

ctime = Mon Jul 17 16:08:35 CST 2017

mZxid = 0x200000018

mtime = Mon Jul 17 16:54:38 CST 2017

pZxid = 0x20000001c

cversion = 4

dataVersion = 2

aclVersion = 0

ephemeralOwner = 0x0

dataLength = 3

numChildren = 2

4.3 API應用

4.3.1 eclipse環境搭建

1）建立一個Maven工程

2）添加pom文件

junit junit RELEASE org.apache.logging.log4j log4j-core 2.8.2 org.apache.zookeeper zookeeper 3.4.10

3）拷貝log4j.properties文件到項目根目錄

4.3.2 建立ZooKeeper客戶端

 

private static String connectString = "hadoop102:2181,hadoop103:2181,hadoop104:2181"; private static int sessionTimeout = 2000; private ZooKeeper zkClient = null;   @Before public void init() throws Exception {   zkClient = new ZooKeeper(connectString, sessionTimeout, new Watcher() { @Override public void process(WatchedEvent event) { // 收到事件通知後的回調函數（用戶的業務邏輯） System.out.println(event.getType() + "--" + event.getPath());   // 再次啓動監聽 try { zkClient.getChildren("/", true); } catch (Exception e) { e.printStackTrace(); } } }); }

4.3.3 建立子節點

// 建立子節點 @Test public void create() throws Exception { // 數據的增刪改查 // 參數1：要建立的節點的路徑； 參數2：節點數據 ； 參數3：節點權限 ；參數4：節點的類型 String nodeCreated = zkClient.create("/eclipse", "hello zk".getBytes(), Ids.OPEN_ACL_UNSAFE,CreateMode.PERSISTENT); }

4.3.4 獲取子節點並監聽

// 獲取子節點 @Test public void getChildren() throws Exception { List children = zkClient.getChildren("/", true);   for (String child : children) { System.out.println(child); }   // 延時阻塞 Thread.sleep(Long.MAX_VALUE); }

4.3.5 判斷znode是否存在

// 判斷znode是否存在 @Test public void exist() throws Exception { Stat stat = zkClient.exists("/eclipse", false);   System.out.println(stat == null ? "not exist" : "exist"); }

 

4.4 案例實戰

監聽服務器節點動態上下線案例

1）需求：某分佈式系統中，主節點能夠有多臺，能夠動態上下線，任意一臺客戶端都能實時感知到主節點服務器的上下線

2）需求分析

3）具體實現：

（0）如今集羣上建立/servers節點

[zk: localhost:2181(CONNECTED) 10] create /servers "servers"

Created /servers

（1）服務器端代碼

package com.atguigu.zkcase; import java.io.IOException; import org.apache.zookeeper.CreateMode; import org.apache.zookeeper.WatchedEvent; import org.apache.zookeeper.Watcher; import org.apache.zookeeper.ZooKeeper; import org.apache.zookeeper.ZooDefs.Ids;   public class DistributeServer { private static String connectString = "hadoop102:2181,hadoop103:2181,hadoop104:2181"; private static int sessionTimeout = 2000; private ZooKeeper zk = null; private String parentNode = "/servers";   // 建立到zk的客戶端鏈接 public void getConnect() throws IOException{ zk = new ZooKeeper(connectString, sessionTimeout, new Watcher() {   @Override public void process(WatchedEvent event) {   } }); }   // 註冊服務器 public void registServer(String hostname) throws Exception{ String create = zk.create(parentNode + "/server", hostname.getBytes(), Ids.OPEN_ACL_UNSAFE, CreateMode.EPHEMERAL_SEQUENTIAL); System.out.println(hostname +" is noline "+ create); }   // 業務功能 public void business(String hostname) throws Exception{ System.out.println(hostname+" is working ..."); Thread.sleep(Long.MAX_VALUE); }   public static void main(String[] args) throws Exception { // 獲取zk鏈接 DistributeServer server = new DistributeServer(); server.getConnect(); // 利用zk鏈接註冊服務器信息 server.registServer(args[0]); // 啓動業務功能 server.business(args[0]); } }

（2）客戶端代碼

package com.atguigu.zkcase; import java.io.IOException; import java.util.ArrayList; import java.util.List; import org.apache.zookeeper.WatchedEvent; import org.apache.zookeeper.Watcher; import org.apache.zookeeper.ZooKeeper;   public class DistributeClient { private static String connectString = "hadoop102:2181,hadoop103:2181,hadoop104:2181"; private static int sessionTimeout = 2000; private ZooKeeper zk = null; private String parentNode = "/servers"; private volatile ArrayList serversList = new ArrayList<>();   // 建立到zk的客戶端鏈接 public void getConnect() throws IOException { zk = new ZooKeeper(connectString, sessionTimeout, new Watcher() {   @Override public void process(WatchedEvent event) {   // 再次啓動監聽 try { getServerList(); } catch (Exception e) { e.printStackTrace(); } } }); }   // public void getServerList() throws Exception { // 獲取服務器子節點信息，而且對父節點進行監聽 List children = zk.getChildren(parentNode, true); ArrayList servers = new ArrayList<>(); for (String child : children) { byte[] data = zk.getData(parentNode + "/" + child, false, null);   servers.add(new String(data)); }   // 把servers賦值給成員serverList，已提供給各業務線程使用 serversList = servers;   System.out.println(serversList); }   // 業務功能 public void business() throws Exception { System.out.println("client is working ..."); Thread.sleep(Long.MAX_VALUE); }   public static void main(String[] args) throws Exception {   // 獲取zk鏈接 DistributeClient client = new DistributeClient(); client.getConnect();   // 獲取servers的子節點信息，從中獲取服務器信息列表 client.getServerList();   // 業務進程啓動 client.business(); } }

 

本教程由尚硅谷教育大數據研究院出品，如需轉載請註明來源，歡迎你們關注尚硅谷公衆號（atguigu）瞭解更多。