【Zookeeper系列六】Zookeeper 工做原理

#0 系列目錄#

• Zookeeper系列

• 【Zookeeper系列一】Zookeeper應用介紹與安裝部署

• 【Zookeeper系列二】ZooKeeper典型應用場景實踐

• 【Zookeeper系列三】ZooKeeper Java API使用

• 【Zookeeper系列四】ZooKeeper 分佈式鎖實現

• 【Zookeeper系列五】ZooKeeper 實時更新server列表

• 【Zookeeper系列六】Zookeeper 工做原理

• Zookeeper源碼

• 【Zookeeper源碼一】Zookeeper 源碼環境搭建

• 【Zookeeper源碼二】Zookeeper 客戶端建立鏈接過程分析

• 【Zookeeper源碼三】Zookeeper 單機版服務器介紹

• 【Zookeeper源碼四】Zookeeper 集羣版服務器介紹

• 【Zookeeper源碼五】Zookeeper 集羣版創建鏈接過程

• Zookeeper應用

• 基於ZooKeeper的分佈式Session實現

ZooKeeper是一個分佈式的，開放源碼的分佈式應用程序協調服務，它包含一個簡單的原語集，分佈式應用程序能夠基於它實現同步服務，配置維護和命名服務等。Zookeeper是hadoop的一個子項目，其發展歷程無需贅述。在分佈式應用中，因爲工程師不能很好地使用鎖機制，以及基於消息的協調機制不適合在某些應用中使用，所以須要有一種可靠的、可擴展的、分佈式的、可配置的協調機制來統一系統的狀態。Zookeeper的目的就在於此。本文簡單分析Zookeeper的工做原理，對於如何使用Zookeeper不是本文討論的重點。

#1 Zookeeper的基本概念# ##1.1 角色## Zookeeper中的角色主要有如下三類，以下表所示：

系統模型如圖所示：

##1.2 設計目的##

1. 最終一致性：client不論鏈接到哪一個Server，展現給它都是同一個視圖，這是zookeeper最重要的性能。

2. 可靠性：具備簡單、健壯、良好的性能，若是消息m被其中一臺服務器接受，那麼它將被全部的服務器接受。

3. 實時性：Zookeeper保證客戶端將在一個時間間隔範圍內得到服務器的更新信息，或者服務器失效的信息。但因爲網絡延時等緣由，Zookeeper不能保證兩個客戶端能同時獲得剛更新的數據，若是須要最新數據，應該在讀數據以前調用sync()接口。

4. 等待無關（wait-free）：慢的或者失效的client不得干預快速的client的請求，使得每一個client都能有效的等待。

5. 原子性：更新只能成功或者失敗，沒有中間狀態。

6. 順序性：包括全局有序和偏序兩種：全局有序是指若是在一臺服務器上消息a在消息b前發佈，則在全部Server上消息a都將在消息b前被髮布；偏序是指若是一個消息b在消息a後被同一個發送者發佈，a必將排在b前面。

#2 ZooKeeper工做原理# Zookeeper的核心是原子廣播，這個機制保證了各個Server之間的同步。實現這個機制的協議叫作Zab協議。Zab協議有兩種模式，它們分別是恢復模式（選主）和廣播模式（同步）。當服務啓動或者在領導者崩潰後，Zab就進入了恢復模式，當領導者被選舉出來，且大多數Server完成了和leader的狀態同步之後，恢復模式就結束了。狀態同步保證了leader和Server具備相同的系統狀態。

爲了保證事務的順序一致性，zookeeper採用了遞增的事務id號（zxid）來標識事務。全部的提議（proposal）都在被提出的時候加上了zxid。實現中zxid是一個64位的數字，它高32位是epoch用來標識leader關係是否改變，每次一個leader被選出來，它都會有一個新的epoch，標識當前屬於那個leader的統治時期。低32位用於遞增計數。

每一個Server在工做過程當中有三種狀態：

1. LOOKING：當前Server不知道leader是誰，正在搜尋

2. LEADING：當前Server即爲選舉出來的leader

3. FOLLOWING：leader已經選舉出來，當前Server與之同步

##2.1 選主流程## 當leader崩潰或者leader失去大多數的follower，這時候zk進入恢復模式，恢復模式須要從新選舉出一個新的leader，讓全部的Server都恢復到一個正確的狀態。Zk的選舉算法有兩種：一種是基於basic paxos實現的，另外一種是基於fast paxos算法實現的。系統默認的選舉算法爲fast paxos。

先介紹basic paxos流程：

1. 選舉線程由當前Server發起選舉的線程擔任，其主要功能是對投票結果進行統計，並選出推薦的Server；
2. 選舉線程首先向全部Server發起一次詢問(包括本身)；
3. 選舉線程收到回覆後，驗證是不是本身發起的詢問(驗證zxid是否一致)，而後獲取對方的id(myid)，並存儲到當前詢問對象列表中，最後獲取對方提議的leader相關信息(id,zxid)，並將這些信息存儲到當次選舉的投票記錄表中；
4. 收到全部Server回覆之後，就計算出zxid最大的那個Server，並將這個Server相關信息設置成下一次要投票的Server；
5. 線程將當前zxid最大的Server設置爲當前Server要推薦的Leader，若是此時獲勝的Server得到n/2 + 1的Server票數， 設置當前推薦的leader爲獲勝的Server，將根據獲勝的Server相關信息設置本身的狀態，不然，繼續這個過程，直到leader被選舉出來。

經過流程分析咱們能夠得出：要使Leader得到多數Server的支持，則Server總數必須是奇數2n+1，且存活的Server的數目不得少於n+1。

每一個Server啓動後都會重複以上流程。在恢復模式下，若是是剛從崩潰狀態恢復的或者剛啓動的server還會從磁盤快照中恢復數據和會話信息，zk會記錄事務日誌並按期進行快照，方便在恢復時進行狀態恢復。

選主的具體流程圖以下所示：

fast paxos流程是在選舉過程當中，某Server首先向全部Server提議本身要成爲leader，當其它Server收到提議之後，解決epoch和zxid的衝突，並接受對方的提議，而後向對方發送接受提議完成的消息，重複這個流程，最後必定能選舉出Leader。其流程圖以下所示：

##2.2 同步流程## 選完leader之後，zk就進入狀態同步過程：

1. leader等待server鏈接；
2. Follower鏈接leader，將最大的zxid發送給leader；
3. Leader根據follower的zxid肯定同步點；
4. 完成同步後通知follower 已經成爲uptodate狀態；
5. Follower收到uptodate消息後，又能夠從新接受client的請求進行服務了；

流程圖以下所示：

##2.3 工做流程## ###2.3.1 Leader工做流程### Leader主要有三個功能：

1. 恢復數據；

2. 維持與Learner的心跳，接收Learner請求並判斷Learner的請求消息類型；

3. Learner的消息類型主要有PING消息、REQUEST消息、ACK消息、REVALIDATE消息，根據不一樣的消息類型，進行不一樣的處理；

**PING消息：**是指Learner的心跳信息；

**REQUEST消息：**是Follower發送的提議信息，包括寫請求及同步請求；

**ACK消息：**是Follower的對提議的回覆，超過半數的Follower經過，則commit該提議；

**REVALIDATE消息：**是用來延長SESSION有效時間；

Leader的工做流程簡圖以下所示，在實際實現中，流程要比下圖複雜得多，啓動了三個線程來實現功能：

###2.3.2 Follower工做流程### Follower主要有四個功能：

1. 向Leader發送請求（PING消息、REQUEST消息、ACK消息、REVALIDATE消息）；

2. 接收Leader消息並進行處理；

3. 接收Client的請求，若是爲寫請求，發送給Leader進行投票；

4. 返回Client結果；

Follower的消息循環處理以下幾種來自Leader的消息：

1. PING消息： 心跳消息；

2. PROPOSAL消息：Leader發起的提案，要求Follower投票；

3. COMMIT消息：服務器端最新一次提案的信息；

4. UPTODATE消息：代表同步完成；

5. REVALIDATE消息：根據Leader的REVALIDATE結果，關閉待revalidate的session仍是容許其接受消息；

6. SYNC消息：返回SYNC結果到客戶端，這個消息最初由客戶端發起，用來強制獲得最新的更新。

Follower的工做流程簡圖以下所示，在實際實現中，Follower是經過5個線程來實現功能的：

對於observer的流程再也不敘述，observer流程和Follower的惟一不一樣的地方就是observer不會參加leader發起的投票。