4.Sersync實時同步

時間 2019-11-17

標籤 4.sersync sersync 實時同步简体版

原文原文鏈接

實時同步概述

1.什麼是實時同步：只要當前目錄發生變化則會觸發一個事件，事件觸發後將變化的目錄同步至遠程服務器；
2.爲何要實時同步：保證數據的連續性，減小人力維護成本，解決nfs單點故障
3.實時同步實現原理：實時同步須要藉助inotify通知接口，用來監控目錄的變化，若是監控的目錄發生變動，則觸發動做，這個動做能夠是進行一次同步操做，或其餘操做； 4.實時同步工具選擇，有sersync、inotify+rsync，一般咱們會選擇sersync，由於sersync是國人基於rsync+inotify-tools開發的工具，不只保留了有點同事還強化了試試監控，文件過濾，簡化配置等功能，幫助用戶提升運行效率，節省時間和網絡資源。sersync項目地址php

實時同步實踐

案例：實現web上傳視頻文件，實則是寫入NFS至存儲，當NFS存在新的數據則會試試的複製到備份服務器html

角色	外網IP(NAT)	內網IP(LAN)	安裝工具
web01	eth0:10.0.0.7	eth1:172.16.1.7
nfs	eth0:10.0.0.31	eth1:172.16.1.31	rsync+inotify+sersync
backup	eth0:10.0.0.41	eth1:172.16.1.41	rsync

思路：實現web上傳視頻文件，實則是寫入NFS至存儲，當NFS存在新的數據則會實時的複製到備份服務器
1.web上傳文件至nfs存儲
2.web和nfs數據都備份到備份服務器的/backup
3.將nfs的數據實時同步到備份服務器的/data目錄git

1. nfs服務器

1.1 安裝rsync

[root@nfs ~]# yum install nfs-utils -y

1.2 配置

[root@nfs ~]# cat /etc/exports
/data 172.16.1.0/24(rw,sync,all_squash,anonuid=666,anongid=666)

[root@nfs ~]# groupadd -g666 www
[root@nfs ~]# useradd -u666 -g666 www

[root@nfs ~]# mkdir /data
[root@nfs ~]# chown -R www.www /data

1.3 啓動

[root@nfs ~]# systemctl restart nfs-server
[root@nfs ~]# sysytemctl enable nfs-server

2. web服務器

2.1 安裝服務

[root@web01 ~]# yum install httpd php -y

2.2 配置

#進程運行的身份（最好是和nfs的匿名用戶保持一致）
[root@web01 html]# sed -i '/^User/c User www' /etc/httpd/conf/httpd.conf    
[root@web01 html]# sed -i '/^Group/c Group www' /etc/httpd/conf/httpd.conf

#掛載
[root@web01 ~]# mount -t nfs 172.16.1.31:/data /var/www/html        #核心

2.3 啓動

[root@web01 ~]# systemctl start httpd

#上傳代碼
[root@web01 ~]# cd /var/www/html/
[root@web01 html]# rz kaoshi.zip
[root@web01 html]# unzip kaoshi.zip

2.4 修改上傳大小

[root@web01 ~]# vim /etc/php.ini中設置：
upload_max_filesize = 200M;
post_max_size = 200M;

2.5 注意: 修改完配置記得重啓服務

[root@web01 ~]#  systemctl restart httpd

3 backup服務器

3.1 安裝

[root@backup ~]# yum install rsync -y

3.2 配置

[root@backup ~]# cat /etc/rsyncd.conf
uid = www
gid = www
port = 873
fake super = yes
use chroot = no
max connections = 200
timeout = 600
ignore errors
read only = false
list = true
auth users = rsync_backup
secrets file = /etc/rsync.passwd
log file = /var/log/rsyncd.log
#####################################
[backup]
path = /backup

[data]
path = /data

3.3 建立用戶

[root@backup ~]# groupadd -g666 www
[root@backup ~]# useradd -u666 -g666 www

3.4 準備虛擬鏈接用戶帳號和密碼

[root@backup ~]# cat /etc/rsync.passwd 
rsync_backup:123456
[root@backup ~]# chmod 600 /etc/rsync.passwd

3.5 建立數據存放的目錄

[root@backup ~]# mkdir -p /data /backup
[root@backup ~]# chown -R www.www /data/ /backup/

3.6 啓動

[root@backup ~]# systemctl restart rsyncd

4. 數據測試驗證

#客戶端執行腳本。測試rsync的備份是否ok   （客戶端的數據都寫入到/backup目錄中） 172.16.1.7 172.16.1.31
[root@nfs ~]# sh /server/scripts/client_push_data.sh
sending incremental file list
nfs_172.16.1.31_2019-07-24/
nfs_172.16.1.31_2019-07-24/flag_2019-07-24
nfs_172.16.1.31_2019-07-24/other.tar.gz
nfs_172.16.1.31_2019-07-24/sys.tar.gz

sent 2,052 bytes  received 85 bytes  4,274.00 bytes/sec
total size is 1,817  speedup is 0.85

5. 數據實時同步

監控nfs服務器上面的/data目錄，若是發生變化則觸發動做，動做能夠是執行一次同步；github

5.1 服務安裝

[root@nfs ~]# yum install inotify-tools       #監控工具
[root@nfs ~]# wget http://down.whsir.com/downloads/sersync2.5.4_64bit_binary_stable_final.tar.gz
[root@nfs ~]# rz -E sersync2.5.4_64bit_binary_stable_final.tar.gz   
[root@nfs ~]# tar xf sersync2.5.4_64bit_binary_stable_final.tar.gz
[root@nfs ~]# mv GNU-Linux-x86/ /usr/local/sersync

5.2 服務配置

[root@nfs sersync]# cat confxml.xml
<?xml version="1.0" encoding="ISO-8859-1"?>
<head version="2.5">
<host hostip="localhost" port="8008"></host>
<debug start="false"/>                                     #調試模式
<fileSystem xfs="true"/>                                   #Centos7默認是xfs文件系統，要開啓
<filter start="false">                                     #文件排除
    <exclude expression="(.*)\.svn"></exclude>
    <exclude expression="(.*)\.gz"></exclude>
    <exclude expression="^info/*"></exclude>
    <exclude expression="^static/*"></exclude>
</filter>
<inotify>                                                  #文件變化類型
    <delete start="true"/>
    <createFolder start="true"/>
    <createFile start="true"/>
    <closeWrite start="true"/>
    <moveFrom start="true"/>
    <moveTo start="true"/>
    <attrib start="true"/>
    <modify start="true"/>
</inotify>

<sersync>
    <localpath watch="/data">                                 #監控上面變化的目錄
        <remote ip="172.16.1.41" name="data"/>                #變化後傳到的目的模塊
        <!--<remote ip="192.168.8.39" name="tongbu"/>-->
        <!--<remote ip="192.168.8.40" name="tongbu"/>-->
    </localpath>                
    <rsync>
        <commonParams params="-az"/>                           #rsync執行時加的參數
        <auth start="true" users="rsync_backup" passwordfile="/etc/password"/>   #虛擬用戶和虛擬用戶的密碼
        <userDefinedPort start="false" port="874"/><!-- port=874 -->
        <timeout start="true" time="100"/><!-- timeout=100 -->     #超時時間
        <ssh start="false"/>                        #ssh協議是否開啓，走rsync協議，因此不須要
    </rsync>
    <failLog path="/tmp/rsync_fail_log.sh" timeToExecute="60"/><!--default every 60mins execute once-->    #錯誤日誌地址
    <crontab start="false" schedule="600"><!--600mins-->
        <crontabfilter start="false">
            <exclude expression="*.php"></exclude>
            <exclude expression="info/*"></exclude>
        </crontabfilter>
    </crontab>
    <plugin start="false" name="command"/>
</sersync>

<plugin name="command">
    <filter start="false">
    </filter>
<plugin name="socket">
    <localpath watch="/opt/tongbu">
        <deshost ip="192.168.138.20" port="8009"/>
    </localpath>
</plugin>
<plugin name="refreshCDN">
    <localpath watch="/data0/htdocs/cms.xoyo.com/site/">
        <cdninfo domainname="ccms.chinacache.com" port="80" username="xxxx" passwd="xxxx"/>
        <sendurl base="http://pic.xoyo.com/cms"/>
        <regexurl regex="false" match="cms.xoyo.com/site([/a-zA-Z0-9]*).xoyo.com/images"/>
    </localpath>
</plugin>
</head>

5.2 服務啓動

[root@nfs sersync]# /usr/local/sersync/sersync2 -h
set the system param
execute：echo 50000000 > /proc/sys/fs/inotify/max_user_watches
execute：echo 327679 > /proc/sys/fs/inotify/max_queued_events
parse the command param
_______________________________________________________
參數-d:啓用守護進程模式
參數-r:在監控前，將監控目錄與遠程主機用rsync命令推送一遍
c參數-n: 指定開啓守護線程的數量，默認爲10個
參數-o:指定配置文件，默認使用confxml.xml文件
參數-m:單獨啓用其餘模塊，使用 -m refreshCDN 開啓刷新CDN模塊
參數-m:單獨啓用其餘模塊，使用 -m socket 開啓socket模塊
參數-m:單獨啓用其餘模塊，使用 -m http 開啓http模塊
不加-m參數，則默認執行同步程序
________________________________________________________________

#啓動
[root@nfs sersync]# ./sersync2 -dro ./confxml.xml

#啓動sersync後必定要提取同步的命令，手動運行一次，檢查是否存在錯誤
[root@nfs ~]#  cd /data && rsync -az -R --delete ./  --timeout=100 rsync_backup@172.16.1.41::data --password-file=/etc/rsync.password

#中止
[root@nfs sersync]# pkill sersync

6 數據服務遷移

若是nfs出現故障，怎麼快速切換到backup服務器上，而且保證NFS數據和後續上傳的文件都同步web

項目需求：最近涉及到數百萬張圖片從本地存儲遷移到雲存儲，爲了使完成圖片遷移，並保證圖片完好失，業務不中斷，決定採用實時同步，同步完後再作流量切換。在實時同步方案中進行了幾種嘗試。express

項目總結：sersync對數百萬張圖片數據作到了實時同步，新增的數據可以立馬同步到另外一臺，最後上百G的圖片數據實現了在線遷移。vim

6.1 backup服務器上須要運行和nfs服務器上同樣的業務環境

#建立用戶
[root@backup ~]# groupadd -g 666 www
[root@backup ~]# useradd -u666 -g666 www
#配置
[root@backup ~]# yum install -y nfs-utils -y
[root@backup ~]# cat /etc/exports
/data 172.16.1.0/24(rw,sync,all_squash,anonuid=666,anongid=666)
#啓動
[root@backup ~]# systemctl restart nfs-server

6.2 先實現實時的同步 √

6.3 在web上實現切換，卸載nfs的/data目錄，從新掛載backup服務的/data目錄

[root@web01 ~]# umount -lf /var/www/html/ && mount -t nfs 172.16.1.41:/data /var/www/html/

7. 數據同步總結

1.爲何要使用實時同步？
    1.解決nfs單點
    2.大量的靜態資源遷移（本地遷移雲端）
2.實時同步能解決什麼問題？
    1.平滑的遷移
    2.備份：減小人爲的干預
3.實時同步工具選擇？
    rsync+inotify   少許文件同步，麻煩。同步大文件太慢，遍歷掃描，很是影響效率。
    sersync         配置簡單，多線程同步，同步塊。適合大量的小文件或者圖片。
    lsryncd 
4.demo：用戶上傳文件-->web-->寫入-->nfs存儲-->inotify-->action-->rsync--->backup
        用戶上傳文件-->web-->寫入-->nfs存儲（本地）--->實時的同步到-->存儲（雲端）
                     web-->卸載存儲（本地）--->從新掛載存儲(雲端)

相關標籤/搜索

每日一句

每一个你不满意的现在，都有一个你没有努力的曾经。