輕量級 memcached緩存代理 twemproxy實踐

本文內容腦圖以下：

文章共 533字，閱讀大約須要 2分鐘 ！

---

概 述

twemproxy（nutcracker） 是 Twitter開源的輕量級 memcached / redis 代理服務器，本質就是一個集羣管理工具，主要用來彌補 Redis和 Memcached對集羣管理的不足，其完成的最大功勞就是經過在後端減小同緩存服務器的鏈接數從而增長吞吐量。咱們將 Twemproxy當作一個老大哥，背後 Carry着一羣 memcached / redis實例小弟，如此看來，某一程序上也相似於 memcached / redis 的HA。

本文先實踐一波讓 twemproxy 來 Carry一羣 memcached小弟時的工做狀況。

注： 本文首發於 My Personal Blog：CodeSheep·程序羊，歡迎光臨 小站

---

環境準備

準備三臺節點：

節點	OS	角色
192.168.199.77	CentOS 7.4	部署 memcached1實例
192.168.199.78	CentOS 7.4	部署 memcached2實例
192.168.199.79	CentOS 7.4	部署 twemproxy代理服務器

---

memcached 部署

• 安裝

yum install memcached

• 做爲後臺服務運行之

memcached -u root -p 11211 -m 64m -d

---

twemproxy 部署

• 安裝 m4工具

wget http://ftp.gnu.org/gnu/m4/m4-1.4.9.tar.gz
tar -zvxf m4-1.4.9.tar.gz
cd m4-1.4.9
./configure
make
make install

• 安裝 autoconf 工具

wget http://ftp.gnu.org/gnu/autoconf/autoconf-2.69.tar.gz
tar zxvf autoconf-2.69.tar.gz
cd autoconf-2.69
./configure --prefix=/usr/
make && make install

• 安裝 twemproxy代理

wget https://github.com/twitter/twemproxy/archive/master.zip
unzip master.zip
mv twemproxy-master twemproxy
mv twemproxy /usr/local/
cd /usr/local/
cd twemproxy/
autoreconf -fvi
./configure --enable-debug=full
make
make install

• 查看 twemproxy幫助

nutcracker -h

[root@localhost ~]# nutcracker -h
This is nutcracker-0.4.1

Usage: nutcracker [-?hVdDt] [-v verbosity level] [-o output file]
                  [-c conf file] [-s stats port] [-a stats addr]
                  [-i stats interval] [-p pid file] [-m mbuf size]

Options:
  -h, --help             : this help
  -V, --version          : show version and exit
  -t, --test-conf        : test configuration for syntax errors and exit
  -d, --daemonize        : run as a daemon
  -D, --describe-stats   : print stats description and exit
  -v, --verbose=N        : set logging level (default: 5, min: 0, max: 11)
  -o, --output=S         : set logging file (default: stderr)
  -c, --conf-file=S      : set configuration file (default: conf/nutcracker.yml)
  -s, --stats-port=N     : set stats monitoring port (default: 22222)
  -a, --stats-addr=S     : set stats monitoring ip (default: 0.0.0.0)
  -i, --stats-interval=N : set stats aggregation interval in msec (default: 30000 msec)
  -p, --pid-file=S       : set pid file (default: off)
  -m, --mbuf-size=N      : set size of mbuf chunk in bytes (default: 16384 bytes)

• 準備 twemproxy配置文件

vim /usr/local/twemproxy/conf/nutcracker.yml

修改配置文件 nutcracker.yml

memcached:
  listen: 127.0.0.1:22121
  hash: fnv1a_64
  distribution: ketama
  timeout: 400
  backlog: 1024
  preconnect: true
  auto_eject_hosts: true
  server_retry_timeout: 30000
  server_failure_limit: 3
  servers:
   - 192.168.199.77:11211:1   
   - 192.168.199.78:11211:1

• 啓動 tewmproxy服務

nutcracker -d -c /usr/local/twemproxy/conf/nutcracker.yml

• 檢查啓動狀況

[root@localhost ~]# netstat -nltp | grep nutcracker
tcp        0      0 0.0.0.0:22222           0.0.0.0:*               LISTEN      12737/nutcracker    
tcp        0      0 192.168.199.79:22121    0.0.0.0:*               LISTEN      12737/nutcracker

---

數據讀/寫測試

• 首先經過 twemproxy代理來寫緩存

一連存入了 6個key

[root@localhost conf]# telnet localhost 22121
Trying ::1...
telnet: connect to address ::1: Connection refused
Trying 127.0.0.1...
Connected to localhost.
Escape character is '^]'.
set key1  0 0 1
1
STORED
set key2 0 0 1
2
STORED
set key3 0 0 1
3
STORED
set key4 0 0 1
4
STORED
set key5 0 0 1
5
STORED
set key6 0 0 1
6
STORED

• 查看發現全部緩存都寫到了 memcached2中

[root@localhost ~]# telnet 127.0.0.1 11211
Trying 127.0.0.1...
Connected to 127.0.0.1.
Escape character is '^]'.
get key1
VALUE key1 0 1
1
END
get key2   
VALUE key2 0 1
2
END
get key3
VALUE key3 0 1
3
END
get key4
VALUE key4 0 1
4
END
get key5
VALUE key5 0 1
5
END
get key6
VALUE key6 0 1
6
END

• 接下來斷開 memcached2

[root@localhost ~]# ps -aux | grep  mem
root       634  0.0  0.0 326588  1960 ?        Ssl  15:58   0:00 memcached -u root -p 11211 -m 64m -d
root       704  0.0  0.0 112676   984 pts/0    S+   16:01   0:00 grep --color=auto mem
[root@localhost ~]# kill -9 634

• 繼續經過 twemproxy代理來寫緩存

[root@localhost conf]# telnet localhost 22121
Trying ::1...
telnet: connect to address ::1: Connection refused
Trying 127.0.0.1...
Connected to localhost.
Escape character is '^]'.
set key9 0 0 1
9
STORED
[root@localhost conf]#

• 此時去memcached1查看：

[root@localhost ~]# telnet 127.0.0.1 11211
Trying 127.0.0.1...
Connected to 127.0.0.1.
Escape character is '^]'.
get key9
VALUE key9 0 1
9
END

咱們發現 memcached2斷開後，緩存 key9寫到了 memcached1中，而對於用戶來講，因爲是跟 twemproxy代理交互，所以並不能感受到後端 memcached2實例的下線

• 咱們再從新啓動 memcached2

而後再繼續經過代理寫數據：

[root@localhost conf]# telnet localhost 22121
Trying ::1...
telnet: connect to address ::1: Connection refused
Trying 127.0.0.1...
Connected to localhost.
Escape character is '^]'.
set key10 0 0 1
x
STORED
set key11 0 0 1
y
STORED

• 而後發現數據又寫到 memcached2中了

[root@localhost ~]# telnet 127.0.0.1 11211
Trying 127.0.0.1...
Connected to 127.0.0.1.
Escape character is '^]'.
get key10 
VALUE key10 0 1
x
END
get key11
VALUE key11 0 1
y
END

從上面這個實驗過程能夠看出，一臺 memcached實例掛掉後，twemproxy 能自動移除之；而恢復後，twemproxy 可以自動識別並從新加入到 memcached 組中從新使用

---

後 記

因爲能力有限，如有錯誤或者不當之處，還請你們批評指正，一塊兒學習交流！

• My Personal Blog：CodeSheep 程序羊
• 個人半年技術博客之路