介紹安裝環境與版本html
用兩臺虛擬機模擬9個節點,3個master節點,6個 salve 節點。node
redis 採用 redis-3.2.4 版本。redis
一臺 CentOS7(IP:127.0.0.1) 。算法
安裝過程shell
1. 下載並解壓ruby
cd
/root/software
wget http:
//download
.redis.io
/releases/redis-3
.2.4.
tar
.gz
tar
-zxvf redis-3.2.4.
tar
.gz
2. 編譯安裝bash
cd redis-3.2.4 make
make install PREFIX=/usr/local/bin
3. 將 redis-trib.rb 複製到redis_cluster目錄下app
cd src
mkdir /usr/local/bin/redis_cluster
cp redis-trib.rb /usr/local/bin/redis_cluster
4. 建立 Redis 節點工具
在 redis_cluster 目錄下,建立名爲7000、700一、7002 ... 7008的目錄,並將 redis.conf 拷貝到這三個目錄中post
cp redis.conf redis_cluster/7000 cp redis.conf redis_cluster/7001 cp redis.conf redis_cluster/7002
cp redis.conf redis_cluster/7003 cp redis.conf redis_cluster/7004 cp redis.conf redis_cluster/7005
分別修改這9個配置文件,修改以下內容
port 7000 //端口7000,7002,7003 bind 本機ip //默認ip爲127.0.0.1 須要改成其餘節點機器可訪問的ip 不然建立集羣時沒法訪問對應的端口,沒法建立集羣 daemonize yes //redis後臺運行 cluster-enabled yes //開啓集羣 把註釋#去掉 cluster-config-file nodes_7000.conf //集羣的配置 配置文件首次啓動自動生成 默認:nodes.conf cluster-node-timeout 15000 //請求超時 默認15秒,可自行設置 appendonly yes //aof日誌開啓 有須要就開啓,它會每次寫操做都記錄一條日誌
5. 啓動各個節點,能夠編寫一個shell腳本start-all.sh,方便運行
啓動:#./start-all.sh
6. 檢查 redis 啓動狀況
#ps -ef | grep redis
root 61020 1 0 02:14 ? 00:00:01 redis-server 127.0.0.1:7000 [cluster] root 61024 1 0 02:14 ? 00:00:01 redis-server 127.0.0.1:7001 [cluster] root 61029 1 0 02:14 ? 00:00:01 redis-server 127.0.0.1:7002 [cluster] root 9957 1 0 02:32 ? 00:00:01 redis-server 127.0.0.1:7003 [cluster] root 9964 1 0 02:32 ? 00:00:01 redis-server 127.0.0.1:7004 [cluster] root 9971 1 0 02:32 ? 00:00:01 redis-server 127.0.0.1:7005 [cluster]
root 10065 4744 0 02:38 pts/0 00:00:00 grep --color=auto redis
7.建立集羣
Redis 官方提供了 redis-trib.rb 這個工具,就在解壓目錄的 src 目錄中,第三步中已將它複製到 /usr/local/bin 目錄中,能夠直接在命令行中使用了。使用下面這個命令便可完成安裝。
redis-trib.rb create --replicas 1 192.168.31.245:7000 192.168.31.245:7001 192.168.31.245:7002 192.168.31.210:7003 192.168.31.210:7004 192.168.31.210:7005
等等,出錯了。這個工具是用 ruby 實現的,因此須要安裝 ruby。安裝命令以下:
yum -y
install
ruby
gem
install
redis-3.2.4.gem (該文件須要本身下載)
以後再運行 redis-trib.rb 命令,會出現以下提示:
輸入 yes 便可,而後出現以下內容,說明安裝成功。
8. 集羣驗證
在第一臺機器上鍊接集羣的7002端口的節點,在另一臺鏈接7005節點,鏈接方式爲 redis-cli -h 192.168.31.245 -c -p 7002 ,加參數 -C 可鏈接到集羣,由於上面 redis.conf 將 bind 改成了ip地址,因此 -h 參數不能夠省略。
在7005節點執行命令 set hello world ,執行結果以下:
而後在另一臺7002端口,查看 key 爲 hello 的內容, get hello ,執行結果以下:
說明集羣運做正常。
集羣建立成功後能夠向集羣中添加節點,下面是添加一個master主節點
執行命令:./redis-trib.rb add-node 127.0.0.1:7007 127.0.0.1:7001
添加完主節點須要對主節點進行hash槽分配,這樣該主節才能夠存儲數據。
redis集羣有16384個槽,集羣中的每一個結點分配自已槽,經過查看集羣結點能夠看到槽佔用狀況。
第一步:鏈接上集羣(鏈接集羣中任意一個可用結點都行)
[root@redis01 redis0707]# ./redis-trib.rb reshard 192.168.101.3:7001 |
第二步:輸入要分配的槽數量
輸入:500,表示要分配500個槽
第三步:輸入接收槽的結點id
輸入:15b809eadae88955e36bcdbb8144f61bbbaf38fb
PS:這裏準備給7007分配槽,經過cluster nodes查看7007結點id爲:
15b809eadae88955e36bcdbb8144f61bbbaf38fb
第四步:輸入源結點id
輸入:all
第五步:輸入yes開始移動槽到目標結點id
輸入:yes
集羣建立成功後能夠向集羣中添加節點,下面是添加一個slave從節點。
命令:./redis-trib.rb add-node --slave --master-id 主節點id 新節點的ip和端口 舊節點ip和端口
執行以下命令:
./redis-trib.rb add-node --slave --master-id cad9f7413ec6842c971dbcc2c48b4ca959eb5db4 192.168.101.3:7008 192.168.101.3:7001 |
cad9f7413ec6842c971dbcc2c48b4ca959eb5db4 是7007結點的id,可經過cluster nodes查看。
注意:若是原來該結點在集羣中的配置信息已經生成到cluster-config-file指定的配置文件中(若是cluster-config-file沒有指定則默認爲nodes.conf),這時可能會報錯:
[ERR] Node XXXXXX is not empty. Either the node already knows other nodes (check with CLUSTER NODES) or contains some key in database 0 |
解決方法是刪除生成的配置文件nodes.conf,刪除後再執行./redis-trib.rb add-node指令
命令:./redis-trib.rb del-node 127.0.0.1:7005 4b45eb75c8b428fbd77ab979b85080146a9bc017
刪除已經佔有hash槽的結點會失敗,報錯以下:
[ERR] Node 127.0.0.1:7005 is not empty! Reshard data away and try again.
須要將該結點佔用的hash槽分配出去(參考hash槽從新分配章節)。
redis-trib.rb命令:
create 建立集羣
-replicas 2 :表示每一個master有2個slave
例如: ./redis-trib.rb create --replicas 1 127.0.0.1:7001 127.0.0.1:7002 127.0.0.1:7003 127.0.0.1:7004 127.0.0.1:7005 127.0.0.1:7006
每一個master對應一個slave
add-node 添加新節點
帶添加的ip:port 集羣任意一個ip:port
例如: ./redis-trib.rb add-node 127.0.0.1:7007 127.0.0.1:7001
add-node --slave --master-id 添加從節點
帶添加的ip:port 集羣任意一個ip:port
例如:./redis-trib.rb add-node --slave --master-id cad9f7413ec6842c971dbcc2c48b4ca959eb5db4 192.168.101.3:7008 192.168.101.3:7001
reshard 槽重新分配
集羣任意節點ip:port
del-node 刪除節點
集羣任意節點ip:port 要刪除的節點id
例如:./redis-trib.rb del-node 127.0.0.1:7005 4b45eb75c8b428fbd77ab979b85080146a9bc017
查看節點信息 ./redis-trib.rb info 127.0.0.1:7007
檢查節點: ./redis-trib.rb check127.0.0.1:7007
簡單原理
redis cluster在設計的時候,就考慮到了去中心化,去中間件,也就是說,集羣中的每一個節點都是平等的關係,都是對等的,每一個節點都保存各自的數據和整個集羣的狀態。每一個節點都和其餘全部節點鏈接,並且這些鏈接保持活躍,這樣就保證了咱們只須要鏈接集羣中的任意一個節點,就能夠獲取到其餘節點的數據。
Redis 集羣沒有並使用傳統的一致性哈希來分配數據,而是採用另一種叫作哈希槽 (hash slot)
的方式來分配的。redis cluster 默認分配了 16384 個slot,當咱們set一個key 時,會用CRC16
算法來取模獲得所屬的slot
,而後將這個key 分到哈希槽區間的節點上,具體算法就是:CRC16(key) % 16384。因此咱們在測試的時候看到set 和 get 的時候,直接跳轉到了7000端口的節點。
Redis 集羣會把數據存在一個 master 節點,而後在這個 master 和其對應的salve 之間進行數據同步。當讀取數據時,也根據一致性哈希算法到對應的 master 節點獲取數據。只有當一個master 掛掉以後,纔會啓動一個對應的 salve 節點,充當 master 。
須要注意的是:必需要3個或以上
的主節點,不然在建立集羣時會失敗,而且當存活的主節點數小於總節點數的一半時,整個集羣就沒法提供服務了。