Tomcat基於MSM+Memcached實現Session共享

前言

在Tomcat集羣中，當一個節點出現故障，其餘節點該如何接管故障節點的Session信息呢？本文帶來的解決方案是基於MSM+Memcached實現Session共享。

相關介紹

MSM

MSM–Memcached Session Manager是一個高可用的Tomcat Session共享解決方案，除了能夠從本機內存快速讀取Session信息(僅針對黏性Session)外，同時可以使用Memcached存取Session，以實現高可用。

工做原理

Sticky Session（黏性） 模式下的工做原理

#Tomcat本地Session爲主Session，Memcached 中的Session爲備Session

安裝在Tomcat上的MSM使用本機內存保存Session，當一個請求執行完畢以後，若是對應的Session在本地不存在（即某用戶的第一次請求），則將該Session複製一份至Memcached；當該Session的下一個請求到達時，會使用Tomcat的本地Session，請求處理結束以後，Session的變化會同步更新到 Memcached，保證數據一致。

當集羣中的一個Tomcat掛掉，下一次請求會被路由到其餘Tomcat上。負責處理此此請求的Tomcat並不清楚Session信息，因而從Memcached查找該Session，更新該Session並將其保存至本機。這次請求結束，Session被修改，送回Memcached備份。

Non-sticky Session （非黏性）模式下的工做原理

#Tomcat本地Session爲中轉Session，Memcached爲主備Session

收到請求，加載備Session至本地容器，若備Session加載失敗則從主Session加載

請求處理結束以後，Session的變化會同步更新到Memcached，並清除Tomcat本地Session

實現過程

實驗拓撲

#系統環境：CentOS6.6

nginx安裝配置

解決依賴關係
[root@scholar ~]# yum groupinstall "Development Tools" "Server Platform Deveopment" -y
[root@scholar ~]# yum install openssl-devel pcre-devel -y
[root@scholar ~]# groupadd -r nginx
[root@scholar ~]# useradd -r -g nginx nginx
[root@scholar ~]# tar xf nginx-1.6.3.tar.gz
[root@scholar ~]# cd nginx-1.6.3
[root@scholar nginx-1.6.3]# ./configure \
> --prefix=/usr/local/nginx \
> --sbin-path=/usr/sbin/nginx \
> --conf-path=/etc/nginx/nginx.conf \
> --error-log-path=/var/log/nginx/error.log \
> --http-log-path=/var/log/nginx/access.log \
> --pid-path=/var/run/nginx/nginx.pid \
> --lock-path=/var/lock/nginx.lock \
> --user=nginx \
> --group=nginx \
> --with-http_ssl_module \
> --with-http_flv_module \
> --with-http_stub_status_module \
> --with-http_gzip_static_module \
> --http-client-body-temp-path=/usr/local/nginx/client/ \
> --http-proxy-temp-path=/usr/local/nginx/proxy/ \
> --http-fastcgi-temp-path=/usr/local/nginx/fcgi/ \
> --http-uwsgi-temp-path=/usr/local/nginx/uwsgi \
> --http-scgi-temp-path=/usr/local/nginx/scgi \
> --with-pcre
[root@scholar nginx-1.6.3]# make && make install
爲nginx提供SysV init腳本
[root@scholar ~]# vim /etc/rc.d/init.d/nginx
#新建文件/etc/rc.d/init.d/nginx，內容以下：
#!/bin/sh
#
# nginx - this script starts and stops the nginx daemon
#
# chkconfig: - 85 15
# description: Nginx is an HTTP(S) server, HTTP(S) reverse \
# proxy and IMAP/POP3 proxy server
# processname: nginx
# config: /etc/nginx/nginx.conf
# config: /etc/sysconfig/nginx
# pidfile: /var/run/nginx.pid
# Source function library.
. /etc/rc.d/init.d/functions
# Source networking configuration.
. /etc/sysconfig/network
# Check that networking is up.
[ "$NETWORKING" = "no" ] && exit 0
nginx="/usr/sbin/nginx"
prog=$(basename $nginx)
NGINX_CONF_FILE="/etc/nginx/nginx.conf"
[ -f /etc/sysconfig/nginx ] && . /etc/sysconfig/nginx
lockfile=/var/lock/subsys/nginx
make_dirs() {
# make required directories
user=`nginx -V 2>&1 | grep "configure arguments:" | sed's/[^*]*--user=\([^ ]*\).*/\1/g' -`
options=`$nginx -V 2>&1 | grep 'configure arguments:'`
for opt in $options; do
if [ `echo $opt | grep '.*-temp-path'` ]; then
value=`echo $opt | cut -d "=" -f 2`
if [ ! -d "$value" ]; then
# echo "creating" $value
mkdir -p $value && chown -R $user $value
fi
fi
done
}
start() {
[ -x $nginx ] || exit 5
[ -f $NGINX_CONF_FILE ] || exit 6
make_dirs
echo -n $"Starting $prog: "
daemon $nginx -c $NGINX_CONF_FILE
retval=$?
echo
[ $retval -eq 0 ] && touch $lockfile
return $retval
}
stop() {
echo -n $"Stopping $prog: "
killproc $prog -QUIT
retval=$?
echo
[ $retval -eq 0 ] && rm -f $lockfile
return $retval
}
restart() {
configtest || return $?
stop
sleep 1
start
}
reload() {
configtest || return $?
echo -n $"Reloading $prog: "
killproc $nginx -HUP
RETVAL=$?
echo
}
force_reload() {
restart
}
configtest() {
$nginx -t -c $NGINX_CONF_FILE
}
rh_status() {
status $prog
}
rh_status_q() {
rh_status >/dev/null 2>&1
}
case "$1" in
start)
rh_status_q && exit 0
$1
;;
stop)
rh_status_q || exit 0
$1
;;
restart|configtest)
$1
;;
reload)
rh_status_q || exit 7
$1
;;
force-reload)
force_reload
;;
status)
rh_status
;;
condrestart|try-restart)
rh_status_q || exit 0
;;
*)
echo $"Usage: $0 {start|stop|status|restart|condrestart|try-restart|reload|force-
reload|configtest}"
exit 2
esac

配置nginx
[root@scholar ~]# vim /etc/nginx/nginx.conf
upstream www.scholar.com {
server 172.16.10.123:8080;
server 172.16.10.124:8080;
}
server {
listen 80;
server_name www.scholar.com;
location / {
proxy_pass http://www.scholar.com;
index index.jsp index.html index.htm;
}
}
[root@scholar ~]# service nginx start
Starting nginx: [ OK ]
測試頁面
[root@node1 local]# cd tomcat/webapps/
[root@node1 webapps]# mkdir -pv test/WEB-INF/{classes,lib}
[root@node1 webapps]# cd test/
[root@node1 test]# vim index.jsp
<%@ page language="java" %>
<html>
<head><title>TomcatA</title></head>
<body>
<h1><font color="red">TomcatA.scholar.com</font></h1>
<table align="centre" border="1">
<tr>
<td>Session ID</td>
<% session.setAttribute("scholar.com","scholar.com"); %>
<td><%= session.getId() %></td>
</tr>
<tr>
<td>Created on</td>
<td><%= session.getCreationTime() %></td>
</tr>
</table>
</body>
</html>
#另外一個節點將TomcatA替換爲TomcatB，顏色設爲藍色
[root@node1 test]# service tomcat start

此時Session信息並不一致，接下來咱們經過配置MSM實現Session共享

memcached安裝

#解決依賴關係
[root@scholar ~]# yum groupinstall "Development Tools" "Server Platform Deveopment" -y
#安裝libevent
#memcached依賴於libevent API，所以要事先安裝之
[root@scholar ~]# tar xf libevent-2.0.22-stable.tar.gz
[root@scholar ~]# cd libevent-2.0.22-stable
[root@scholar libevent-2.0.22-stable]# ./configure --prefix=/usr/local/libevent
[root@scholar libevent-2.0.22-stable]# make && make install
[root@scholar ~]# echo "/usr/local/libevent/lib" > /etc/ld.so.conf.d/libevent.conf
[root@scholar ~]# ldconfig
#安裝配置memcached
[root@scholar ~]# tar xf memcached-1.4.24.tar.tar
[root@scholar ~]# cd memcached-1.4.24
[root@scholar memcached-1.4.24]# ./configure --prefix=/usr/local/memcached --with-libevent=/usr/local/libevent
[root@scholar memcached-1.4.24]# make && make install

[root@scholar ~]# vim /etc/init.d/memcached
#!/bin/bash
#
# Init file for memcached
#
# chkconfig: - 86 14
# description: Distributed memory caching daemon
#
# processname: memcached
# config: /etc/sysconfig/memcached
. /etc/rc.d/init.d/functions
## Default variables
PORT="11211"
USER="nobody"
MAXCONN="1024"
CACHESIZE="64"
RETVAL=0
prog="/usr/local/memcached/bin/memcached"
desc="Distributed memory caching"
lockfile="/var/lock/subsys/memcached"
start() {
echo -n $"Starting $desc (memcached): "
daemon $prog -d -p $PORT -u $USER -c $MAXCONN -m $CACHESIZE
RETVAL=$?
[ $RETVAL -eq 0 ] && success && touch $lockfile || failure
echo
return $RETVAL
}
stop() {
echo -n $"Shutting down $desc (memcached): "
killproc $prog
RETVAL=$?
[ $RETVAL -eq 0 ] && success && rm -f $lockfile || failure
echo
return $RETVAL
}
restart() {
stop
start
}
reload() {
echo -n $"Reloading $desc ($prog): "
killproc $prog -HUP
RETVAL=$?
[ $RETVAL -eq 0 ] && success || failure
echo
return $RETVAL
}
case "$1" in
start)
start
;;
stop)
stop
;;
restart)
restart
;;
condrestart)
[ -e $lockfile ] && restart
RETVAL=$?
;;
reload)
reload
;;
status)
status $prog
RETVAL=$?
;;
*)
echo $"Usage: $0 {start|stop|restart|condrestart|status}"
RETVAL=1
esac
exit $RETVAL

將所需jar包放入各tomcat節點的tomcat安裝目錄下的lib目錄中
[root@node1 ~]# cd msm/
[root@node1 msm]# ls
javolution-5.4.3.1.jar msm-javolution-serializer-1.8.1.jar
memcached-session-manager-1.8.1.jar spymemcached-2.10.2.jar
memcached-session-manager-tc7-1.8.1.jar
[root@node1 msm]# cp * /usr/local/tomcat/lib/
#各tomcat節點都需執行以上操做
[root@node1 msm]# vim /usr/local/tomcat/conf/server.xml
<?xml version='1.0' encoding='utf-8'?>
<Server port="8005" shutdown="SHUTDOWN">
<Listener className="org.apache.catalina.startup.VersionLoggerListener" />
<Listener className="org.apache.catalina.core.AprLifecycleListener" SSLEngine="on" />
<Listener className="org.apache.catalina.core.JasperListener"/>
<Listener className="org.apache.catalina.core.JreMemoryLeakPreventionListener" />
<Listener className="org.apache.catalina.mbeans.GlobalResourcesLifecycleListener" />
<Listener className="org.apache.catalina.core.ThreadLocalLeakPreventionListener" />
<GlobalNamingResources>
<Resource name="UserDatabase" auth="Container"
type="org.apache.catalina.UserDatabase"
description="User database that can be updated and saved"
</GlobalNamingResources>
<Service name="Catalina">
<Connector port="8080" protocol="HTTP/1.1"
connectionTimeout="20000"
redirectPort="8443" />
<Connector port="8009" protocol="AJP/1.3" redirectPort="8443"/>
<Engine name="Catalina" defaultHost="localhost">
<Realm className="org.apache.catalina.realm.LockOutRealm">
<Realm className="org.apache.catalina.realm.UserDatabaseRealm"
resourceName="UserDatabase"/>
</Realm>
<Host name="www.scholar.com" appBase="webapps"
unpackWARs="true" autoDeploy="true">
<Context path="/test" docBase="/usr/local/tomcat/webapps/test/" reloadable="true">
<Manager className="de.javakaffee.web.msm.MemcachedBackupSessionManager"
memcachedNodes="n1:172.16.10.126:11211,n2:172.16.10.212:11211"
failoverNodes="n1"
requestUriIgnorePattern=".*\.(ico|png|gif|jpg|css|js)$"
transcoderFactoryClass="de.javakaffee.web.msm.serializer.javolution.Javolu
tionTranscoderFactory"
/>
</Context>
<Valve className="org.apache.catalina.valves.AccessLogValve" directory="logs"
prefix="scholar_access_log." suffix=".txt"
pattern="%h %l %u %t &quot;%r&quot; %s %b" />
</Host>
<Valve className="org.apache.catalina.valves.AccessLogValve" directory="logs"
prefix="scholar_access_log." suffix=".txt"
pattern="%h %l %u %t &quot;%r&quot; %s %b" />
</Host>
<Host name="localhost" appBase="webapps"
unpackWARs="true" autoDeploy="true">
<Valve className="org.apache.catalina.valves.AccessLogValve" directory="logs"
prefix="localhost_access_log." suffix=".txt"
pattern="%h %l %u %t &quot;%r&quot; %s %b" />
</Host>
</Engine>
</Service>
</Server>

訪問測試

因而可知，Session共享已實現，下面咱們模擬TomcatB節點故障，看一下Session是否會發生改變

雖然由於TomcatB故障，致使用戶請求被調度到了TomcatA節點上，但Session ID並未發生改變，即Session集羣內的全部節點都保存有全局的Session信息，很好的實現了用戶訪問的不中斷

當n2（memcached）節點發生故障，Session信息會不會轉移到其餘memcached節點呢，咱們來試一下

Session已轉移到n1上，並且Session ID並未發生改變，至此，Tomcat基於MSM+Memcached實現Session共享目的已實現

The end

Tomcat基於MSM+Memcached實現Session共享實驗就說到這裏了