Rsync+sersync（inotify）實現數據實時雙向同步

時間  2020-05-25
標籤 rsync+sersync rsync sersync inotify 實現 數據 實時 雙向 同步 欄目 Linux 简体版
原文   原文鏈接

#Rsync+Sersync數據實時同步（雙向） Author:Rich七哥 [TOC]php

服務介紹

1、爲何要用rsync+sersync架構？node

  • 一、sersync是基於inotify開發的，相似於inotify-tools的工具ios

  • 二、sersync能夠記錄下被監聽目錄中發生變化的（包括增長、刪除、修改）具體某一個文件或者某一個目錄的名字，而後使用rsync同步的時候，只同步發生變化的文件或者目錄web

  • 3由於服務異常致使的同步失敗有記錄，便於恢復，確保高可用！express

2、rsync+inotify-tools與rsync+sersync架構的區別？bash

  • 一、rsync+inotify-tools

a、inotify只能記錄下被監聽的目錄發生了變化（增，刪，改）並無把具體是哪一個文件或者哪一個目錄發生了變化記錄下來；服務器

b、rsync在同步的時候，並不知道具體是哪一個文件或目錄發生了變化，每次都是對整個目錄進行同步，當數據量很大時，整個目錄同步很是耗時（rsync要對整個目錄遍歷查找對比文件），所以效率很低架構

​

  • 二、rsync+sersync

a、sersync能夠記錄被監聽目錄中發生變化的（增，刪，改）具體某個文件或目錄的名字；dom

b、rsync在同步時，只同步發生變化的文件或目錄（每次發生變化的數據相對整個同步目錄數據來講很小，rsync在遍歷查找對比文件時，速度很快），所以效率很高。ssh

同步過程：

1. 在同步服務器上開啓sersync服務，sersync負責監控配置路徑中的文件系統事件變化；

2. 調用rsync命令把更新的文件同步到目標服務器；

3. 須要在主服務器配置sersync，在同步目標服務器配置rsync server（注意：是rsync服務）

同步過程和原理：

  • 1. 用戶實時的往sersync服務器上寫入更新文件數據；

  • 2. 此時須要在同步主服務器上配置sersync服務；

  • -3. 在另外一臺服務器開啓rsync守護進程服務，以同步拉取來自sersync服務器上的數據；

經過rsync的守護進程服務後能夠發現，實際上sersync就是監控本地的數據寫入或更新事件；而後，在調用rsync客戶端的命令，將寫入或更新事件對應的文件經過rsync推送到目標服務器

###節點聲明

#雙向備份
192.168.0.50(數據源節點、備份節點)
192.168.0.51(數據源節點、備份節點)

編譯環境配置

本教程是基於CentOs 7.5系統配置的，爲了適合不一樣環境配置的節點安裝，本教程將採用編譯安裝的方式

[root@cosmo-0-50 bin]# cat /etc/redhat-release 
CentOS Linux release 7.5.1804 (Core) 

# 環境檢查

#查看gcc【編譯器】版本
gcc -v 
#查看perl【解釋器】版本
perl -v

# 提示無該命令則須要安裝，若是有版本信息則直接執行下步操做
#安裝編譯器gcc：
 
 #第一步：上傳gcc_rpm.tar.gz到/usr/src 下
 #第二步：解壓縮到/usr/local
  cd /usr/src
  tar -zxvf gcc_rpm.tar.gz -C /usr/local
  
 #第三步：rpm安裝
  cd /usr/local/gcc_rpm
  rpm -Uvh  *.rpm  --nodeps  --force  
  
 #第四步：版本查看，確認是否安裝成功
  gcc -v 和 g++ -v  
 
 
#安裝解釋器perl[http://search.cpan.org/CPAN/authors/id/S/SH/SHAY]：
 
 #第一步：上傳perl-5.26.1.tar.gz到/usr/src 下
 #第二步：解壓縮到 /usr/local/perl
  cd /usr/src
  tar -zxvf perl-5.26.1.tar.gz  -C /usr/local
  
 #第三步：進入文件目錄,設置config
  cd /opt/perl-5.26.1/
  ./Configure -des -Dprefix=/usr/local/perl
  
 #第四步：編譯並檢測
  make && make test
 【出現All tests successful：編譯及檢測成功】
 
 #第五步：安裝
  make install
  
 #第六步：驗證
  perl -v

安裝Rsync

# 將rsync.tar包上傳至安裝節點/opt/cosmo/com/rsync目錄下
[root@cosmo-0-50 rsync]# ls
rsync-3.0.9.tar.gz  

#而後解壓
tar -zxvf rsync-3.0.9.tar.gz

# 編譯
cd rsync-3.0.9
./configure --prefix=/opt/cosmo/rsync
make  && make install && echo $?

# 驗證
echo $?的值爲0表明執行成功

編輯Rsync配置文件

192.168.0.50

[root@cosmo-0-50 bin]# cat /opt/cosmo/com/rsync/bin/rsyncd.conf
uid = root                          
gid = root                          
address =192.168.0.50               
port =873                           
hosts allow =192.168.0.0/24         
use chroot = yes                    
max connections =10                  
pid file =/var/run/rsyncd.pid       
lock file =/var/run/rsync.lock      
log file =/var/log/rsyncd.log       
motd file =/etc/rsyncd.motd

 
[wwwroot]                           
path =/opt/cosmo/test/                    
comment = used for web-data root    
read only = false                   
list = yes                          
auth users = rsyncuser              
secrets file =/etc/rsync.passwd

配置文件解析

[root@cosmo-0-50 bin]# cat /opt/cosmo/com/rsync/bin/rsyncd.conf
uid = root                         #運行進程的身份                     
gid = root                         #運行進程的組                
address =192.168.0.50              #監聽IP          
port =873                          #監聽端口              
hosts allow =192.168.0.0/24        #容許同步客戶端的IP地址，能夠是網段，或者用*表示全部 192.168.1.0/24或192.168.1.0/255.255.255.0  
use chroot = yes                   #是否囚牢，鎖定家目錄，rsync被黑以後，黑客沒法再rsync運行的家目錄以外建立文件，選項設置爲yes            
max connections =10                 #最大鏈接數           
pid file =/var/run/rsyncd.pid       #進程PID，自動生成  
lock file =/var/run/rsync.lock      #指max connectios參數的鎖文件
log file =/var/log/rsyncd.log       #日誌文件位置

 
[wwwroot]                           #同步模塊名稱           
path =/opt/cosmo/test/              #同步文件路徑     
comment = used for web-data root    #模塊描述
read only = false                   #設置服務端文件讀寫權限   
list = yes                          #是否容許查看模塊信息
auth users = rsyncuser              #備份的用戶，和系統用戶無關
secrets file =/etc/rsync.passwd     #存放用戶的密碼文件，格式是  用戶名：密碼

配置密碼文件

[root@cosmo-0-50 bin]# cat /opt/cosmo/com/rsync/bin/rsync.passwd
rsyncuser:password123
#用戶名:密碼

[root@cosmo-0-50 bin]#chmod 600 /etc/rsync.passwd  
#目錄權限必須是700或者600，不然的話身份驗證會失效，設置rsync user的時候

#建立sersync密碼文件
[root@cosmo-0-50 bin]# cat /opt/cosmo/com/rsync/bin/rsync2.passwd 
password123

啓動rsync驗證

#啓動命令
[root@cosmo-0-50 bin]#/opt/cosmo/rsync/bin/rsync --daemon --config=/opt/cosmo/rsync/bin/rsyncd.conf

# 查看進程
ps -e|grep rsync

#查看端口(此命令沒有的話需安裝net-tools)
netstat -antup|grep 873

# 同步測試
rsync -avz  /opt/cosmo/test/ root@192.168.0.51:/opt/cosmo/test/

# 設置開機自啓動
  echo "/opt/cosmo/rsync/bin/rsync --daemon --config=/opt/cosmo/rsync/bin/rsyncd" >> /etc/rc.local
  • 51節點rsync安裝和50步驟一致

安裝sersync服務

# 將sersync的軟件包上傳至安裝節點/opt/cosmo/com下
# 解壓
tar xvf sersync2.5.4_51bit_binary_stable_final.tar.gz

# 修改包名
[root@cosmo-0-51 sersyncdir]# mv GNU-Linux-x86 sersyncdir
[root@cosmo-0-51 sersyncdir]# cd sersyncdir
[root@cosmo-0-51 sersyncdir]# ls
sersync

[root@cosmo-0-51 sersyncdir]# cd sersync/
[root@cosmo-0-51 sersync]# ls
confxml.xml  sersync2

配置sersync服務

# [root@cosmo-0-50 sersync]# cat confxml.xml 

<?xml version="1.0" encoding="ISO-8859-1"?>
<head version="2.5">
    <host hostip="localhost" port="8008"></host>
    <debug start="false"/>
    <fileSystem xfs="false"/>
    <filter start="false">
        <exclude expression="(.*)\.svn"></exclude>
        <exclude expression="(.*)\.gz"></exclude>
        <exclude expression="^info/*"></exclude>
        <exclude expression="^static/*"></exclude>
    </filter>
    <inotify>
        <delete start="true"/>
        <createFolder start="true"/>
        <createFile start="false"/>
        <closeWrite start="true"/>
        <moveFrom start="true"/>
        <moveTo start="true"/>
        <attrib start="false"/>
        <modify start="false"/>
    </inotify>

    <sersync>
        <localpath watch="/opt/cosmo/test">
            <remote ip="192.168.0.51" name="wwwroot"/>
            <!--<remote ip="192.168.8.39" name="tongbu"/>-->
            <!--<remote ip="192.168.8.40" name="tongbu"/>-->
        </localpath>
        <rsync>
            <commonParams params="-artuz"/>
            <auth start="true" users="rsyncuser" passwordfile="/opt/cosmo/com/rsync/bin/rsync2.passwd"/>
            <userDefinedPort start="false" port="874"/><!-- port=874 -->
            <timeout start="false" time="100"/><!-- timeout=100 -->
            <ssh start="false"/>
        </rsync>
        <failLog path="/tmp/rsync_fail_log.sh" timeToExecute="60"/><!--default every 60mins execute once-->
        <crontab start="false" schedule="600"><!--600mins-->
            <crontabfilter start="false">
                <exclude expression="*.php"></exclude>
                <exclude expression="info/*"></exclude>
            </crontabfilter>
        </crontab>
        <plugin start="false" name="command"/>
    </sersync>

    <plugin name="command">
        <param prefix="/bin/sh" suffix="" ignoreError="true"/>  <!--prefix /opt/tongbu/mmm.sh suffix-->
        <filter start="false">
            <include expression="(.*)\.php"/>
            <include expression="(.*)\.sh"/>
        </filter>
    </plugin>

    <plugin name="socket">
        <localpath watch="/opt/tongbu">
            <deshost ip="192.168.138.20" port="8009"/>
        </localpath>
    </plugin>
    <plugin name="refreshCDN">
        <localpath watch="/data0/htdocs/cms.xoyo.com/site/">
            <cdninfo domainname="ccms.chinacache.com" port="80" username="xxxx" passwd="xxxx"/>
            <sendurl base="http://pic.xoyo.com/cms"/>
            <regexurl regex="false" match="cms.xoyo.com/site([/a-zA-Z0-9]*).xoyo.com/images"/>
        </localpath>
    </plugin>
</head>

1572241634428

sersync配置文件解析

# 修改24--28行
<sersync>
        <localpath watch="/opt/cosmo/test">    #本地同步目錄
            <remote ip="192.168.0.51" name="wwwroot"/>   #rsync模塊名稱

# 修改31--34行，認證部分【rsync密碼認證】
<rsync>
            <commonParams params="-artuz"/>
            <auth start="true" users="rsyncuser"   #修改用戶名 passwordfile="/opt/cosmo/com/rsync/bin/rsync2.passwd"/>   # 修改密碼文件路徑
            <userDefinedPort start="false" port="874"/><!-- port=874 -->
            <timeout start="false" time="100"/><!-- timeout=100 -->
            <ssh start="false"/>

</rsync>
        <failLog path="/tmp/rsync_fail_log.sh" timeToExecute="60"/><!--default every 60mins execute once-->  # **錯誤日誌路徑，用於記錄和恢復同步失敗的文件**

啓動sersync服務

# 啓動sersync服務
[root@cosmo-0-50 sersync]# /opt/cosmo/com/sersyncdir/sersync/sersync2 -r -d -o /opt/cosmo/com/sersyncdir/sersync/confxml.xml
  • 輸出內容以下：

1572242155159

51節點的配置方法和50一致

###測試同步

#在50節點的/opt/cosmo/test/進行文件修改或刪除,在51節點進行觀察是否同步成功
watch ls -l

[TOC]

相關文章
相關標籤/搜索
每日一句
    每一个你不满意的现在，都有一个你没有努力的曾经。
本站公眾號
   歡迎關注本站公眾號,獲取更多信息
聯繫我們 最近搜索 最新文章 沪ICP备13005482号-10 MyBatis教程 SQL 教程 MySQL教程 Java 教程 Thymeleaf 教程 Hibernate教程 Spring教程 Redis教程