Redis Sentinel機制與用法說明

時間 2019-12-14

原文原文鏈接

本文來自 https://www.cnblogs.com/zhoujinyi/p/5569462.htmlhtml

概述

Redis-Sentinel是Redis官方推薦的高可用性(HA)解決方案，當用Redis作Master-slave的高可用方案時，假如master宕機了，Redis自己(包括它的不少客戶端)都沒有實現自動進行主備切換，而Redis-sentinel自己也是一個獨立運行的進程，它能監控多個master-slave集羣，發現master宕機後能進行自動切換。正則表達式

它的主要功能有如下幾點redis

不時地監控redis是否按照預期良好地運行;算法
若是發現某個redis節點運行出現情況，可以通知另一個進程(例如它的客戶端);sql
可以進行自動切換。當一個master節點不可用時，可以選舉出master的多個slave(若是有超過一個slave的話)中的一個來做爲新的master,其它的slave節點會將它所追隨的master的地址改成被提高爲master的slave的新地址。緩存

Sentinel支持集羣

很顯然，只使用單個sentinel進程來監控redis集羣是不可靠的，當sentinel進程宕掉後(sentinel自己也有單點問題，single-point-of-failure)整個集羣系統將沒法按照預期的方式運行。因此有必要將sentinel集羣，這樣有幾個好處：安全

即便有一些sentinel進程宕掉了，依然能夠進行redis集羣的主備切換；ruby
若是隻有一個sentinel進程，若是這個進程運行出錯，或者是網絡堵塞，那麼將沒法實現redis集羣的主備切換（單點問題）;bash
若是有多個sentinel，redis的客戶端能夠隨意地鏈接任意一個sentinel來得到關於redis集羣中的信息。網絡

Sentinel版本

Sentinel當前最新的穩定版本稱爲Sentinel 2(與以前的Sentinel 1區分開來）。隨着redis2.8的安裝包一塊兒發行。安裝完Redis2.8後，能夠在redis2.8/src/裏面找到Redis-sentinel的啓動程序。

強烈建議：
若是你使用的是redis2.6(sentinel版本爲sentinel 1)，你最好應該使用redis2.8版本的sentinel 2，由於sentinel 1有不少的Bug，已經被官方棄用，因此強烈建議使用redis2.8以及sentinel 2。

運行Sentinel

運行sentinel有兩種方式：

第一種
```
redis-sentinel /path/to/sentinel.conf
```
第二種
```
redis-server /path/to/sentinel.conf --sentinel
```
以上兩種方式，都必須指定一個sentinel的配置文件sentinel.conf，若是不指定，將沒法啓動sentinel。sentinel默認監聽26379端口，因此運行前必須肯定該端口沒有被別的進程佔用。

Sentinel的配置

Redis源碼包中包含了一個sentinel.conf文件做爲sentinel的配置文件，配置文件自帶了關於各個配置項的解釋。典型的配置項以下所示：

sentinel monitor mymaster 127.0.0.1 6379 2
sentinel down-after-milliseconds mymaster 60000
sentinel failover-timeout mymaster 180000
sentinel parallel-syncs mymaster 1

sentinel monitor resque 192.168.1.3 6380 4
sentinel down-after-milliseconds resque 10000
sentinel failover-timeout resque 180000
sentinel parallel-syncs resque 5

上面的配置項配置了兩個名字分別爲mymaster和resque的master，配置文件只須要配置master的信息就好啦，不用配置slave的信息，由於slave可以被自動檢測到(master節點會有關於slave的消息)。須要注意的是，配置文件在sentinel運行期間是會被動態修改的，例如當發生主備切換時候，配置文件中的master會被修改成另一個slave。這樣，以後sentinel若是重啓時，就能夠根據這個配置來恢復其以前所監控的redis集羣的狀態。

接下來咱們將一行一行地解釋上面的配置項：

sentinel monitor mymaster 127.0.0.1 6379 2

這一行表明sentinel監控的master的名字叫作mymaster,地址爲127.0.0.1:6379，行尾最後的一個2表明什麼意思呢？咱們知道，網絡是不可靠的，有時候一個sentinel會由於網絡堵塞而誤覺得一個master redis已經死掉了，當sentinel集羣式，解決這個問題的方法就變得很簡單，只須要多個sentinel互相溝通來確認某個master是否真的死了，這個2表明，當集羣中有2個sentinel認爲master死了時，才能真正認爲該master已經不可用了。（sentinel集羣中各個sentinel也有互相通訊，經過gossip協議）。

除了第一行配置，咱們發現剩下的配置都有一個統一的格式:

sentinel <option_name> <master_name> <option_value>

接下來咱們根據上面格式中的option_name一個一個來解釋這些配置項：

down-after-milliseconds
sentinel會向master發送心跳PING來確認master是否存活，若是master在「必定時間範圍」內不迴應PONG 或者是回覆了一個錯誤消息，那麼這個sentinel會主觀地(單方面地)認爲這個master已經不可用了(subjectively down, 也簡稱爲SDOWN)。而這個down-after-milliseconds就是用來指定這個「必定時間範圍」的，單位是毫秒。

不過須要注意的是，這個時候sentinel並不會立刻進行failover主備切換，這個sentinel還須要參考sentinel集羣中其餘sentinel的意見，若是超過某個數量的sentinel也主觀地認爲該master死了，那麼這個master就會被客觀地(注意哦，此次不是主觀，是客觀，與剛纔的subjectively down相對，此次是objectively down，簡稱爲ODOWN)認爲已經死了。須要一塊兒作出決定的sentinel數量在上一條配置中進行配置。

parallel-syncs
在發生failover主備切換時，這個選項指定了最多能夠有多少個slave同時對新的master進行同步，這個數字越小，完成failover所需的時間就越長，可是若是這個數字越大，就意味着越多的slave由於replication而不可用。能夠經過將這個值設爲 1 來保證每次只有一個slave處於不能處理命令請求的狀態。

其餘配置項在sentinel.conf中都有很詳細的解釋。
全部的配置均可以在運行時用命令SENTINEL SET command動態修改。

Sentinel的「仲裁會」

前面咱們談到，當一個master被sentinel集羣監控時，須要爲它指定一個參數，這個參數指定了當須要判決master爲不可用，而且進行failover時，所須要的sentinel數量，本文中咱們暫時稱這個參數爲票數

不過，當failover主備切換真正被觸發後，failover並不會立刻進行，還須要sentinel中的大多數sentinel受權後才能夠進行failover。
當ODOWN時，failover被觸發。failover一旦被觸發，嘗試去進行failover的sentinel會去得到「大多數」sentinel的受權（若是票數比大多數還要大的時候，則詢問更多的sentinel)
這個區別看起來很微妙，可是很容易理解和使用。例如，集羣中有5個sentinel，票數被設置爲2，當2個sentinel認爲一個master已經不可用了之後，將會觸發failover，可是，進行failover的那個sentinel必須先得到至少3個sentinel的受權才能夠實行failover。
若是票數被設置爲5，要達到ODOWN狀態，必須全部5個sentinel都主觀認爲master爲不可用，要進行failover，那麼得得到全部5個sentinel的受權。

配置版本號

爲何要先得到大多數sentinel的承認時才能真正去執行failover呢？

當一個sentinel被受權後，它將會得到宕掉的master的一份最新配置版本號，當failover執行結束之後，這個版本號將會被用於最新的配置。由於大多數sentinel都已經知道該版本號已經被要執行failover的sentinel拿走了，因此其餘的sentinel都不能再去使用這個版本號。這意味着，每次failover都會附帶有一個獨一無二的版本號。咱們將會看到這樣作的重要性。

並且，sentinel集羣都遵照一個規則：若是sentinel A推薦sentinel B去執行failover，B會等待一段時間後，自行再次去對同一個master執行failover，這個等待的時間是經過failover-timeout配置項去配置的。從這個規則能夠看出，sentinel集羣中的sentinel不會再同一時刻併發去failover同一個master，第一個進行failover的sentinel若是失敗了，另一個將會在必定時間內進行從新進行failover，以此類推。

redis sentinel保證了活躍性：若是大多數sentinel可以互相通訊，最終將會有一個被受權去進行failover.
redis sentinel也保證了安全性：每一個試圖去failover同一個master的sentinel都會獲得一個獨一無二的版本號。

配置傳播

一旦一個sentinel成功地對一個master進行了failover，它將會把關於master的最新配置經過廣播形式通知其它sentinel，其它的sentinel則更新對應master的配置。

一個faiover要想被成功實行，sentinel必須可以向選爲master的slave發送SLAVEOF NO ONE命令，而後可以經過INFO命令看到新master的配置信息。

當將一個slave選舉爲master併發送SLAVEOF NO ONE後，即便其它的slave還沒針對新master從新配置本身，failover也被認爲是成功了的，而後全部sentinels將會發布新的配置信息。

新配在集羣中相互傳播的方式，就是爲何咱們須要當一個sentinel進行failover時必須被受權一個版本號的緣由。

每一個sentinel使用##發佈/訂閱##的方式持續地傳播master的配置版本信息，配置傳播的##發佈/訂閱##管道是：__sentinel__:hello。

由於每個配置都有一個版本號，因此以版本號最大的那個爲標準。

舉個栗子：假設有一個名爲mymaster的地址爲192.168.1.50:6379。一開始，集羣中全部的sentinel都知道這個地址，因而爲mymaster的配置打上版本號1。一段時候後mymaster死了，有一個sentinel被受權用版本號2對其進行failover。若是failover成功了，假設地址改成了192.168.1.50:9000，此時配置的版本號爲2，進行failover的sentinel會將新配置廣播給其餘的sentinel，因爲其餘sentinel維護的版本號爲1，發現新配置的版本號爲2時，版本號變大了，說明配置更新了，因而就會採用最新的版本號爲2的配置。

這意味着sentinel集羣保證了第二種活躍性：一個可以互相通訊的sentinel集羣最終會採用版本號最高且相同的配置。

SDOWN和ODOWN的更多細節

sentinel對於不可用有兩種不一樣的見解，一個叫主觀不可用(SDOWN),另一個叫客觀不可用(ODOWN)。SDOWN是sentinel本身主觀上檢測到的關於master的狀態，ODOWN須要必定數量的sentinel達成一致意見才能認爲一個master客觀上已經宕掉，各個sentinel之間經過命令SENTINEL is_master_down_by_addr來得到其它sentinel對master的檢測結果。

從sentinel的角度來看，若是發送了PING心跳後，在必定時間內沒有收到合法的回覆，就達到了SDOWN的條件。這個時間在配置中經過is-master-down-after-milliseconds參數配置。

當sentinel發送PING後，如下回復之一都被認爲是合法的：

PING replied with +PONG. PING replied with -LOADING error. PING replied with -MASTERDOWN error.

其它任何回覆（或者根本沒有回覆）都是不合法的。

從SDOWN切換到ODOWN不須要任何一致性算法，只須要一個gossip協議：若是一個sentinel收到了足夠多的sentinel發來消息告訴它某個master已經down掉了，SDOWN狀態就會變成ODOWN狀態。若是以後master可用了，這個狀態就會相應地被清理掉。

正如以前已經解釋過了，真正進行failover須要一個受權的過程，可是全部的failover都開始於一個ODOWN狀態。

ODOWN狀態只適用於master，對於不是master的redis節點sentinel之間不須要任何協商，slaves和sentinel不會有ODOWN狀態。

Sentinel之間和Slaves之間的自動發現機制

雖然sentinel集羣中各個sentinel都互相鏈接彼此來檢查對方的可用性以及互相發送消息。可是你不用在任何一個sentinel配置任何其它的sentinel的節點。由於sentinel利用了master的發佈/訂閱機制去自動發現其它也監控了統一master的sentinel節點。

經過向名爲__sentinel__:hello的管道中發送消息來實現。

一樣，你也不須要在sentinel中配置某個master的全部slave的地址，sentinel會經過詢問master來獲得這些slave的地址的。

每一個sentinel經過向每一個master和slave的發佈/訂閱頻道__sentinel__:hello每秒發送一次消息，來宣佈它的存在。
每一個sentinel也訂閱了每一個master和slave的頻道__sentinel__:hello的內容，來發現未知的sentinel，當檢測到了新的sentinel，則將其加入到自身維護的master監控列表中。
每一個sentinel發送的消息中也包含了其當前維護的最新的master配置。若是某個sentinel發現
本身的配置版本低於接收到的配置版本，則會用新的配置更新本身的master配置。

在爲一個master添加一個新的sentinel前，sentinel老是檢查是否已經有sentinel與新的sentinel的進程號或者是地址是同樣的。若是是那樣，這個sentinel將會被刪除，而把新的sentinel添加上去。

網絡隔離時的一致性

redis sentinel集羣的配置的一致性模型爲最終一致性，集羣中每一個sentinel最終都會採用最高版本的配置。然而，在實際的應用環境中，有三個不一樣的角色會與sentinel打交道：

Redis實例.
Sentinel實例.
客戶端.

爲了考察整個系統的行爲咱們必須同時考慮到這三個角色。

下面有個簡單的例子，有三個主機，每一個主機分別運行一個redis和一個sentinel:

+-------------+
             | Sentinel 1 | <--- Client A | Redis 1 (M) | +-------------+ | | +-------------+ | +------------+ | Sentinel 2 |-----+-- / partition / ----| Sentinel 3 | <--- Client B | Redis 2 (S) | | Redis 3 (M)| +-------------+ +------------+

在這個系統中，初始狀態下redis3是master, redis1和redis2是slave。以後redis3所在的主機網絡不可用了，sentinel1和sentinel2啓動了failover並把redis1選舉爲master。

Sentinel集羣的特性保證了sentinel1和sentinel2獲得了關於master的最新配置。可是sentinel3依然持着的是就的配置，由於它與外界隔離了。

當網絡恢復之後，咱們知道sentinel3將會更新它的配置。可是，若是客戶端所鏈接的master被網絡隔離，會發生什麼呢？

客戶端將依然能夠向redis3寫數據，可是當網絡恢復後，redis3就會變成redis的一個slave，那麼，在網絡隔離期間，客戶端向redis3寫的數據將會丟失。

也許你不會但願這個場景發生：

若是你把redis當作緩存來使用，那麼你也許能容忍這部分數據的丟失。
但若是你把redis當作一個存儲系統來使用，你也許就沒法容忍這部分數據的丟失了。

由於redis採用的是異步複製，在這樣的場景下，沒有辦法避免數據的丟失。然而，你能夠經過如下配置來配置redis3和redis1，使得數據不會丟失。

min-slaves-to-write 1 min-slaves-max-lag 10

經過上面的配置，當一個redis是master時，若是它不能向至少一個slave寫數據(上面的min-slaves-to-write指定了slave的數量)，它將會拒絕接受客戶端的寫請求。因爲複製是異步的，master沒法向slave寫數據意味着slave要麼斷開鏈接了，要麼不在指定時間內向master發送同步數據的請求了(上面的min-slaves-max-lag指定了這個時間)。

Sentinel狀態持久化

snetinel的狀態會被持久化地寫入sentinel的配置文件中。每次當收到一個新的配置時，或者新建立一個配置時，配置會被持久化到硬盤中，並帶上配置的版本戳。這意味着，能夠安全的中止和重啓sentinel進程。

無failover時的配置糾正

即便當前沒有failover正在進行，sentinel依然會使用當前配置去設置監控的master。特別是：

根據最新配置確認爲slaves的節點卻聲稱本身是master(上文例子中被網絡隔離後的的redis3)，這時它們會被從新配置爲當前master的slave。
若是slaves鏈接了一個錯誤的master，將會被改正過來，鏈接到正確的master。

Slave選舉與優先級

當一個sentinel準備好了要進行failover，而且收到了其餘sentinel的受權，那麼就須要選舉出一個合適的slave來作爲新的master。

slave的選舉主要會評估slave的如下幾個方面：

與master斷開鏈接的次數
Slave的優先級
數據複製的下標(用來評估slave當前擁有多少master的數據)
進程ID

若是一個slave與master失去聯繫超過10次，而且每次都超過了配置的最大失聯時間(down-after-milliseconds)，若是sentinel在進行failover時發現slave失聯，那麼這個slave就會被sentinel認爲不適合用來作新master的。

更嚴格的定義是，若是一個slave持續斷開鏈接的時間超過

(down-after-milliseconds * 10) + milliseconds_since_master_is_in_SDOWN_state

就會被認爲失去選舉資格。
符合上述條件的slave纔會被列入master候選人列表，並根據如下順序來進行排序：

sentinel首先會根據slaves的優先級來進行排序，優先級越小排名越靠前。
若是優先級相同，則查看複製的下標，哪一個從master接收的複製數據多，哪一個就靠前。
若是優先級和下標都相同，就選擇進程ID較小的那個。

一個redis不管是master仍是slave，都必須在配置中指定一個slave優先級。要注意到master也是有可能經過failover變成slave的。

若是一個redis的slave優先級配置爲0，那麼它將永遠不會被選爲master。可是它依然會從master哪裏複製數據。

Sentinel和Redis身份驗證

當一個master配置爲須要密碼才能鏈接時，客戶端和slave在鏈接時都須要提供密碼。

master經過requirepass設置自身的密碼，不提供密碼沒法鏈接到這個master。
slave經過masterauth來設置訪問master時的密碼。

可是當使用了sentinel時，因爲一個master可能會變成一個slave，一個slave也可能會變成master，因此須要同時設置上述兩個配置項。

Sentinel API

Sentinel默認運行在26379端口上，sentinel支持redis協議，因此可使用redis-cli客戶端或者其餘可用的客戶端來與sentinel通訊。

有兩種方式可以與sentinel通訊：

一種是直接使用客戶端向它發消息
另一種是使用發佈/訂閱模式來訂閱sentinel事件，好比說failover，或者某個redis實例運行出錯，等等。

Sentinel命令

sentinel支持的合法命令以下：

PING sentinel回覆PONG.
SENTINEL masters 顯示被監控的全部master以及它們的狀態.
SENTINEL master <master name> 顯示指定master的信息和狀態；
SENTINEL slaves <master name> 顯示指定master的全部slave以及它們的狀態；
SENTINEL get-master-addr-by-name <master name> 返回指定master的ip和端口，若是正在進行failover或者failover已經完成，將會顯示被提高爲master的slave的ip和端口。
SENTINEL reset <pattern> 重置名字匹配該正則表達式的全部的master的狀態信息，清楚其以前的狀態信息，以及slaves信息。
SENTINEL failover <master name> 強制sentinel執行failover，而且不須要獲得其餘sentinel的贊成。可是failover後會將最新的配置發送給其餘sentinel。

動態修改Sentinel配置

從redis2.8.4開始，sentinel提供了一組API用來添加，刪除，修改master的配置。

須要注意的是，若是你經過API修改了一個sentinel的配置，sentinel不會把修改的配置告訴其餘sentinel。你須要本身手動地對多個sentinel發送修改配置的命令。

如下是一些修改sentinel配置的命令：

SENTINEL MONITOR <name> <ip> <port> <quorum> 這個命令告訴sentinel去監聽一個新的master
SENTINEL REMOVE <name> 命令sentinel放棄對某個master的監聽
SENTINEL SET <name> <option> <value> 這個命令很像Redis的CONFIG SET命令，用來改變指定master的配置。支持多個<option><value>。例如如下實例：
SENTINEL SET objects-cache-master down-after-milliseconds 1000

只要是配置文件中存在的配置項，均可以用SENTINEL SET命令來設置。這個還能夠用來設置master的屬性，好比說quorum(票數)，而不須要先刪除master，再從新添加master。例如：

SENTINEL SET objects-cache-master quorum 5

增長或刪除Sentinel

因爲有sentinel自動發現機制，因此添加一個sentinel到你的集羣中很是容易，你所須要作的只是監控到某個Master上，而後新添加的sentinel就能得到其餘sentinel的信息以及master全部的slaves。

若是你須要添加多個sentinel，建議你一個接着一個添加，這樣能夠預防網絡隔離帶來的問題。你能夠每一個30秒添加一個sentinel。最後你能夠用SENTINEL MASTER mastername來檢查一下是否全部的sentinel都已經監控到了master。

刪除一個sentinel顯得有點複雜：由於sentinel永遠不會刪除一個已經存在過的sentinel，即便它已經與組織失去聯繫好久了。
要想刪除一個sentinel，應該遵循以下步驟：

中止所要刪除的sentinel
發送一個SENTINEL RESET * 命令給全部其它的sentinel實例，若是你想要重置指定master上面的sentinel，只須要把*號改成特定的名字，注意，須要一個接一個發，每次發送的間隔不低於30秒。
檢查一下全部的sentinels是否都有一致的當前sentinel數。使用SENTINEL MASTER mastername 來查詢。

刪除舊master或者不可達slave

sentinel永遠會記錄好一個Master的slaves，即便slave已經與組織失聯很久了。這是頗有用的，由於sentinel集羣必須有能力把一個恢復可用的slave進行從新配置。

而且，failover後，失效的master將會被標記爲新master的一個slave，這樣的話，當它變得可用時，就會重新master上覆制數據。

而後，有時候你想要永久地刪除掉一個slave(有可能它曾經是個master)，你只須要發送一個SENTINEL RESET master命令給全部的sentinels，它們將會更新列表裏可以正確地複製master數據的slave。

發佈/訂閱

客戶端能夠向一個sentinel發送訂閱某個頻道的事件的命令，當有特定的事件發生時，sentinel會通知全部訂閱的客戶端。須要注意的是客戶端只能訂閱，不能發佈。

訂閱頻道的名字與事件的名字一致。例如，頻道名爲sdown 將會發布全部與SDOWN相關的消息給訂閱者。

若是想要訂閱全部消息，只需簡單地使用PSUBSCRIBE *

如下是全部你能夠收到的消息的消息格式，若是你訂閱了全部消息的話。第一個單詞是頻道的名字，其它是數據的格式。

注意：如下的instance details的格式是：

<instance-type> <name> <ip> <port> @ <master-name> <master-ip> <master-port>

若是這個redis實例是一個master，那麼@以後的消息就不會顯示。

  +reset-master <instance details> -- 當master被重置時.
    +slave <instance details> -- 當檢測到一個slave並添加進slave列表時.
    +failover-state-reconf-slaves <instance details> -- Failover狀態變爲reconf-slaves狀態時
    +failover-detected <instance details> -- 當failover發生時
    +slave-reconf-sent <instance details> -- sentinel發送SLAVEOF命令把它從新配置時
    +slave-reconf-inprog <instance details> -- slave被從新配置爲另一個master的slave，但數據複製還未發生時。
    +slave-reconf-done <instance details> -- slave被從新配置爲另一個master的slave而且數據複製已經與master同步時。
    -dup-sentinel <instance details> -- 刪除指定master上的冗餘sentinel時 (當一個sentinel從新啓動時，可能會發生這個事件).
    +sentinel <instance details> -- 當master增長了一個sentinel時。
    +sdown <instance details> -- 進入SDOWN狀態時;
    -sdown <instance details> -- 離開SDOWN狀態時。
    +odown <instance details> -- 進入ODOWN狀態時。
    -odown <instance details> -- 離開ODOWN狀態時。
    +new-epoch <instance details> -- 當前配置版本被更新時。
    +try-failover <instance details> -- 達到failover條件，正等待其餘sentinel的選舉。
    +elected-leader <instance details> -- 被選舉爲去執行failover的時候。
    +failover-state-select-slave <instance details> -- 開始要選擇一個slave當選新master時。
    no-good-slave <instance details> -- 沒有合適的slave來擔當新master
    selected-slave <instance details> -- 找到了一個適合的slave來擔當新master
    failover-state-send-slaveof-noone <instance details> -- 當把選擇爲新master的slave的身份進行切換的時候。
    failover-end-for-timeout <instance details> -- failover因爲超時而失敗時。
    failover-end <instance details> -- failover成功完成時。
    switch-master <master name> <oldip> <oldport> <newip> <newport> -- 當master的地址發生變化時。一般這是客戶端最感興趣的消息了。
    +tilt -- 進入Tilt模式。
    -tilt -- 退出Tilt模式。

TILT 模式

redis sentinel很是依賴系統時間，例如它會使用系統時間來判斷一個PING回覆用了多久的時間。
然而，假如系統時間被修改了，或者是系統十分繁忙，或者是進程堵塞了，sentinel可能會出現運行不正常的狀況。
當系統的穩定性降低時，TILT模式是sentinel能夠進入的一種的保護模式。當進入TILT模式時，sentinel會繼續監控工做，可是它不會有任何其餘動做，它也不會去迴應is-master-down-by-addr這樣的命令了，由於它在TILT模式下，檢測失效節點的能力已經變得讓人不可信任了。
若是系統恢復正常，持續30秒鐘，sentinel就會退出TITL模式。