Redis 集羣方案- 主從切換測試

大約一年多前，公司同事開始使用Redis，不清楚是配置，仍是版本的問題，當時的Redis常常在使用一段時間後，鏈接爆滿且不釋放。印象中，Redis 2.4.8如下的版本因爲設計上的主從庫同步問題，就會致使整個問題，不知是否確爲這個Bug所致。但從那之後，我就不多敢去嘗試使用Redis。曾想轉投MongoDB，但公司同事給個人回覆是，因爲MongoDB宕機，數據丟失，公司損失慘重。因而，我一直停留在Memcached使用範疇，且用的還比較通常。

因爲前段時間使用Kestrel，同時要操做Memcached及時更新緩存，又要操做database，持久化數據。 貌似Redis既能夠當Cache又能夠當Queue！因而，今天開始研究Redis！

 

 

1、Redis簡要介紹

Redis —— REmote DIctionary Server，能夠直接理解爲遠程字典服務，也就是基於Key-Value模式Memcached+Database Persistence。
若是真要把Redis與Memcached進行對比，參考下圖：

使用Memcached，讓我感觸頗深的是Object Size的問題，因爲SQL未做優化直接映射對象，致使緩存對象大於1MB，Memcached就拋了異常。而Redis默認緩存對象512MB，最大支持1GB。至少在緩存對象時，能夠有更大的伸縮空間了！ 此外，是數據類型。Memcached比較簡單，而Redis能夠支持更多複雜的數據類型，如HASH、SET、SortedSet等等。

 

PS:Memcached是在Server端實現的Sharding，Redis沒有對應的實現，聽說3.0系列開始支持，不過這話貌似說了2年之久。

 

2、安裝

Redis裝起來，實在是過於簡單，讓我幾乎「無從下手」。由於連「configure」文件都不須要，你只須要作個「make」就好。

在這裏下載Redis最新版，這裏用Redis 2.4.16

下載&解壓：

 

wget http://redis.googlecode.com/files/redis-2.4.16.tar.gz
tar zxvf redis-2.4.16.tar.gz

  

Redis能夠解壓至任何目錄，一個make安裝便可得到執行、配置文件。
安裝（這裏將redis解壓到/opt/目錄下）：

 

cd /opt/redis-2.4.16
make

 

make以後，咱們會獲得如下可執行文件：

• redis-server：Redis服務器的daemon啓動程序
• redis-cli：Redis命令行操做工具。或者經過telnet進行純文本協議操做
• redis-benchmark：Redis性能測試工具，測試Redis在你的系統及你的配置下的讀寫性能

上述文件位於src目錄下。

我習慣性的執行了make install，貌似我須要的可執行文件，安裝到了/usr/local/bin：

引用

# make install
cd src && make install
make[1]: Entering directory `/opt/software/redis-2.4.16/src'
MAKE hiredis
make[2]: Entering directory `/opt/software/redis-2.4.16/deps/hiredis'
make[2]: Nothing to be done for `static'.
make[2]: Leaving directory `/opt/software/redis-2.4.16/deps/hiredis'
MAKE linenoise
make[2]: Entering directory `/opt/software/redis-2.4.16/deps/linenoise'
make[2]: 「linenoise_example」是最新的。
make[2]: Leaving directory `/opt/software/redis-2.4.16/deps/linenoise'
MAKE hiredis
make[2]: Entering directory `/opt/software/redis-2.4.16/deps/hiredis'
make[2]: Nothing to be done for `static'.
make[2]: Leaving directory `/opt/software/redis-2.4.16/deps/hiredis'
    LINK redis-benchmark
    LINK redis-cli

Hint: To run 'make test' is a good idea ;)

mkdir -p /usr/local/bin
cp -pf redis-server /usr/local/bin
cp -pf redis-benchmark /usr/local/bin
cp -pf redis-cli /usr/local/bin
cp -pf redis-check-dump /usr/local/bin
cp -pf redis-check-aof /usr/local/bin
make[1]: Leaving directory `/opt/software/redis-2.4.16/src'

這樣，就不用我拷貝文件了。 意外收穫！

此外，還會獲得一個默認的配置文件——redis.conf。
最好，把它拷貝到固定的目錄下，例如：/etc/redis/目錄下！

 

mkdir /etc/redis
cp redis.conf /etc/redis

  

而後，咱們就能夠在任何路徑下，直接啓動Redis了！

3、運行

運行Redis：

 

redis-server /etc/redis/redis.conf

 

引用

[1958] 13 Aug 16:18:24 * Server started, Redis version 2.4.16
[1958] 13 Aug 16:18:24 # WARNING overcommit_memory is set to 0! Background save may fail under low memory condition. To fix this issue add 'vm.overcommit_memory = 1' to /etc/sysctl.conf and then reboot or run the command 'sysctl vm.overcommit_memory=1' for this to take effect.
[1958] 13 Aug 16:18:24 * The server is now ready to accept connections on port 6379
[1958] 13 Aug 16:18:24 - 0 clients connected (0 slaves), 717544 bytes in use

4、測試

經過客戶端命令redis-cli訪問Redis

引用

# redis-cli  
    redis> set name zlex  
    OK  
    redis> get name   
    "zlex" 

 

進行數據測試：

 

redis-benchmark -l

 這個測試會一直進行下去，直到你Ctrl+C：

 

====== PING (inline) ======
10000 requests completed in 0.12 seconds
50 parallel clients
3 bytes payload
keep alive: 1

99.31% <= 1 milliseconds
99.53% <= 2 milliseconds
99.64% <= 3 milliseconds
99.70% <= 4 milliseconds
99.74% <= 5 milliseconds
99.78% <= 6 milliseconds
99.82% <= 7 milliseconds
99.84% <= 8 milliseconds
99.86% <= 9 milliseconds
99.89% <= 10 milliseconds
99.91% <= 11 milliseconds
99.93% <= 12 milliseconds
99.96% <= 13 milliseconds
99.98% <= 14 milliseconds
100.00% <= 15 milliseconds
81300.81 requests per second

====== PING ======
10000 requests completed in 0.12 seconds
50 parallel clients
3 bytes payload
keep alive: 1

99.96% <= 1 milliseconds
100.00% <= 1 milliseconds
84033.61 requests per second

^CET (10 keys): 26200.00

 

 

5、關閉

也可經過客戶端命令redis-cli完成Redis關閉操做:

 

redis-cli shutdown

 

引用

[2639] 13 Aug 16:35:35 # User requested shutdown...
[2639] 13 Aug 16:35:35 * Saving the final RDB snapshot before exiting.
[2639] 13 Aug 16:36:49 * DB saved on disk
[2639] 13 Aug 16:36:49 # Redis is now ready to exit, bye bye...

 

6、調優

1./etc/sysctl.conf
前面啓動Redis時，看到以下警告：

引用

[1958] 13 Aug 16:18:24 # WARNING overcommit_memory is set to 0! Background save may fail under low memory condition. To fix this issue add 'vm.overcommit_memory = 1' to /etc/sysctl.conf and then reboot or run the command 'sysctl vm.overcommit_memory=1' for this to take effect.

須要修改/etc/sysctl.conf文件：

 

vim /etc/sysctl.conf

  

末尾追加vm.overcommit_memory = 1
而後執行sysctl vm.overcommit_memory=1，使之生效：

 

# sysctl vm.overcommit_memory=1
vm.overcommit_memory = 1

  

2./proc/sys/vm/overcommit_memory
爲了調整內存分配策略，須要配置/proc/sys/vm/overcommit_memory

• 0， 表示內核將檢查是否有足夠的可用內存供應用進程使用；若是有足夠的可用內存，內存申請容許；不然，內存申請失敗，並把錯誤返回給應用進程。
• 1， 表示內核容許分配全部的物理內存，而無論當前的內存狀態如何。
• 2， 表示內核容許分配超過全部物理內存和交換空間總和的內存

默認爲0，若是內存狀況比較緊張的話，設爲1：

 

echo 1 > /proc/sys/vm/overcommit_memory

 

3.redis.conf
前面啓動Redis後，老是在命令行裏不斷跳着各類日誌，很麻煩。即使經過「&」，領其後臺運行，也無濟於事。這就須要修改redis.conf，以Daemo模式運行！
redis.conf參數：

• daemonize：是否之後臺daemon方式運行
• pidfile：pid文件位置
• port：監聽的端口號
• timeout：請求超時時間
• loglevel：log信息級別
• logfile：log文件位置
• databases：開啓數據庫的數量
• save * *：保存快照的頻率，第一個*表示多長時間（秒級），第三個*表示執行多少次寫操做。在必定時間內執行必定數量的寫操做時，自動保存快照。可設置多個條件。
• rdbcompression：是否使用壓縮
• dbfilename：數據快照文件名（只是文件名，不包括目錄）
• dir：數據快照的保存目錄（這個是目錄）
• appendonly：是否開啓appendonlylog，開啓的話每次寫操做會記一條log，這會提升數據抗風險能力，但影響效率。
• appendfsync：appendonlylog如何同步到磁盤（三個選項，分別是每次寫都強制調用fsync、每秒啓用一次fsync、不調用fsync等待系統本身同步）
• slaveof <masterip> <masterport> ：主從配置，在redis-slave上配置master的ip port，便可。

例如，咱們能夠修改成以下方式：

引用

daemonize yes #守護進程模式
save 60 1000 #當時間間隔超過60秒，或存儲超過1000條記錄時，進行持久化。
maxmemory 256mb #分配256MB內存

 

PS：切記，必定要設定maxmemmory，且配置大小要小於物理內存，留有足夠的內存供系統使用。

 

公司一同窗的Redis，某期間數據暴漲，致使內存吃緊，SWAP加重，直接宕機。就是由於沒有設置maxmemmory。

 

7、集羣配置

把雞蛋都放在一個籃子裏是件危險的事情。首先，要作好主備。其次，若是能夠作一致性哈希，能夠起到負載均衡的做用。

配置Master-Slave，只須要在Slave上配置Master節點IP Port：

 

 這裏的Master IP 爲192.168.133.139 端口位6379，配置redis.conf：

slaveof 192.168.133.139 6379

PS：爲了兩個Redis Server能夠互訪，須要註釋掉bind 127.0.0.1

 

依次啓動Master，Slave：

 

 Master

[7651] 17 Aug 19:08:07 * Server started, Redis version 2.4.16
[7651] 17 Aug 19:08:07 * DB loaded from disk: 0 seconds
[7651] 17 Aug 19:08:07 * The server is now ready to accept connections on port 6379
[7651] 17 Aug 19:08:08 * Slave ask for synchronization
[7651] 17 Aug 19:08:08 * Starting BGSAVE for SYNC
[7651] 17 Aug 19:08:08 * Background saving started by pid 7652
[7652] 17 Aug 19:08:08 * DB saved on disk
[7651] 17 Aug 19:08:08 * Background saving terminated with success
[7651] 17 Aug 19:08:08 * Synchronization with slave succeeded

 

 

 Slave

[7572] 17 Aug 19:07:39 * Server started, Redis version 2.4.16
[7572] 17 Aug 19:07:39 * DB loaded from disk: 0 seconds
[7572] 17 Aug 19:07:39 * The server is now ready to accept connections on port 6379
[7572] 17 Aug 19:07:39 * Connecting to MASTER...
[7572] 17 Aug 19:08:08 * MASTER <-> SLAVE sync started: SYNC sent
[7572] 17 Aug 19:08:08 * MASTER <-> SLAVE sync: receiving 10 bytes from master
[7572] 17 Aug 19:08:08 * MASTER <-> SLAVE sync: Loading DB in memory
[7572] 17 Aug 19:08:08 * MASTER <-> SLAVE sync: Finished with success

 

看到上述日誌，就說明Master-Slave已經連通。

 

簡單測試，Master寫，Slave讀：

 

 Master寫

telnet 192.168.133.139 6379
Trying 192.168.133.139...
Connected to 192.168.133.139.
Escape character is '^]'.
set name snowolf
+OK

 

 

Slave讀 

telnet 192.168.133.140 6379
Trying 192.168.133.140...
Connected to 192.168.133.140.
Escape character is '^]'.
get name
$7
snowolf

 搞定！

 

8、主從備份

在從服務器上執行下列命令：

#備份
redis-cli save

#關閉redis服務器
redis-cli shutdown

 而後，拷貝數據目錄下的rdb文件。

9、系統服務

習慣了經過service啓動一切服務，固然，這跟我生產環境部署有關，一般只分配給用於部署的帳戶操做service命令的權限。主要是爲了確保系統安全。

參考以前寫的Memcached的系統服務文件，改造一個Redis版本！

新建文件，並賦予權限：

 

touch /etc/init.d/redis-server
chmod +x /etc/init.d/redis-server

 

編輯/etc/init.d/redis-server，鍵入以下內容：

 

#!/bin/bash
#
# redis    Startup script for redis processes
#
# author: snowolf
#
# processname: redis

redis_path="/usr/local/bin/redis-server"
redis_conf="/etc/redis/redis.conf"
redis_pid="/var/run/redis.pid"

# Source function library.
. /etc/rc.d/init.d/functions

[ -x $redis_path ] || exit 0

RETVAL=0
prog="redis"


# Start daemons.
start() {
    if [ -e $redis_pid -a ! -z $redis_pid ];then
        echo $prog" already running...."
        exit 1
    fi

    echo -n $"Starting $prog "
    # Single instance for all caches
    $redis_path $redis_conf
    RETVAL=$?
    [ $RETVAL -eq 0 ] && {
        touch /var/lock/subsys/$prog
        success $"$prog"
    }
    echo
    return $RETVAL
}


# Stop daemons.
stop() {
    echo -n $"Stopping $prog "
    killproc -d 10 $redis_path
    echo
    [ $RETVAL = 0 ] && rm -f $redis_pid /var/lock/subsys/$prog

    RETVAL=$?
    return $RETVAL
}


# See how we were called.
case "$1" in
        start)
            start
            ;;
        stop)
            stop
            ;;
        status)
            status $prog
            RETVAL=$?
            ;;
        restart)
            stop
            start
            ;;
        condrestart)
            if test "x`pidof redis`" != x; then
                stop
                start
            fi
            ;;
        *)
            echo $"Usage: $0 {start|stop|status|restart|condrestart}"
            exit 1
esac
exit $RETVAL

 

 

 

引用

# service redis-server restart
Stopping redis                                             [失敗]
Starting redis                                             [肯定]
# service redis-server status 
redis (pid  14965) 正在運行...

很是方便！

暫且整理這麼多，未完待續。