rsync遠程同步（理論+實踐篇）

關於rsync

一款快速增量備份工具

• Remote Sync,遠程同步
• 支持本地複製，或者與其餘SsH、rsync 主機同步
• 官方網站: http://rsync.samba.org

配置rsync源服務器

rsync同步源

• 指備份操做的遠程服務器，也稱爲備份源

配置rsync源

• 基本思路
  • 創建rsyncd.conf配置文件、獨立的帳號文件
  • 啓用rsync的-daemon模式
• 應用示例
  • 用戶backuper, 容許下行同步
  • 操做的目錄爲/var/www/html/
• 配置文件rsyncd.conf
  • 需手動創建，語法相似於Samba配置
  • 認證配置auth users、secrets file, 不加則爲匿名
• rsync帳號文件
  • 採用"用戶名:密碼」的記錄格式，每行一個用戶記錄
  • 獨立的帳號數據，不依賴於系統帳號
• 啓用rsync服務
  • 經過--daemon獨自提供服務
  • 執行kill $(cat /var/run/rsyncd.pid)關閉rsync服務

使用rsync備份工具

rsync命令用法

• rsync [選項] 原始位置 目標位置
• 經常使用選項
  • -a:歸檔模式，遞歸併保留對象屬性，等同於-rlptgoD
  • -v:示同步過程的詳細(verbose)信息
  • -z:在傳輸文件時進行壓縮(compress)
  • -H:保留硬鏈接文件
  • -A:保留ACL屬性信息
  • --delete:刪除目標位置有而原始位置沒有的文件
  • --checksum:根據對象的校驗和來決定是否跳過文件
• 配置源的兩種表示方法
  • 格式1: 用戶名@主機地址::共享模塊名
  • 格式2: rsync://用戶名@主機地址/共享模塊名

rsync實時同步

按期同步的不足

• 執行備份的時間固定，延遲明顯、實時性差
• 當同步源長期不變化時，密集的按期任務是沒必要要的

實時同步的優勢

• 一旦同步源出現變化，當即啓動備份
• 只要同步源無變化，則不執行備份

關於inotify

Linux內核的inotify機制

• 從版本2.6.144開始提供
• 能夠監控文件系統的變更狀況，並做出通知響應
• 輔助軟件: inotify-tools

rsync+inotify實時同步

• 調整inotify內核參數
  • max_queue_events: 監控隊列大小
  • max_user_instances: 最多監控實例數
  • max_user_watches:每一個實例最多監控文件數，配置時應大於監控目標的總文件數
• 安裝inotify-tools輔助工具
  • inotifywait:用於持續監控,實時輸出結果
  • 經常使用選項
  • -m：持續進行監控
  • -r：遞歸監控全部子對象
  • -q：簡化輸出信息
  • -e：指定要監控哪些事件類型
  • inotifwatch:用於短時間監控，任務完成後再出結果
• 經過inotifywait觸發rsync同步操做
  • 使用while、read持續獲取監控結果
  • 根據結果能夠做進一 步判斷，決定執行何種操做

實踐配置

實驗環境

• rsyncd服務器IP地址：192.168.144.128
• client客戶端IP地址：192.168.144.129

在rsyncd服務器上修改配置文件

[root@rsyncd ~]# rpm -q rsync
rsync-3.0.9-18.el7.x86_64
[root@rsyncd ~]# vim /etc/rsyncd.conf

uid = nobody           //匿名用戶
gid = nobody
use chroot = yes         //禁錮家目錄
pid file = /var/run/rsyncd.pid        //pid文件路徑
address = 192.168.144.128                //配置監聽地址
port = 873                        //端口號
log file = /var/log/rsyncd.log      //日誌文件路徑
hosts allow = 192.168.144.0/24         //容許地址段訪問
dont compress   = *.gz *.tgz *.zip *.z *.Z *.rpm *.deb *.bz2   //不須要壓縮的類型

[wwwroot]           //共享模塊名
path = /var/www/html        //共享文件路徑
comment = www.kgc.com      //定義名稱
read only = yes            //只讀權限
auth users = backuper       //身份驗證用戶名
secrets file = /etc/rsyncd_users.db        //密碼文件
:wq
[root@rsyncd ~]# vim /etc/rsyncd_users.db      //建立密碼文件
backuper:123123       //編輯用戶名：密碼
:wq
[root@rsyncd ~]# chmod 600 /etc/rsyncd_users.db       //更改權限
[root@rsyncd ~]# rsync --daemon                    //開啓rsync服務
[root@rsyncd ~]# netstat -ntap | grep rsync         //查看端口
tcp     0     0 192.168.144.128:873      0.0.0.0:*    LISTEN    36346/rsync 
[root@rsyncd ~]# systemctl stop firewalld.service       //關閉防火牆
[root@rsyncd ~]# setenforce 0
[root@rsyncd ~]# yum install httpd -y           //安裝httpd服務
[root@rsyncd ~]# cd /var/www/html/
[root@rsyncd html]# echo "this is test web" > index.html      //編輯網頁信息
[root@rsyncd html]# cd ../
[root@rsyncd www]# chmod 777 html/          //放開目錄權限，方便用戶操做

在客戶端服務器上，拉取同步源rsyncd

[root@client ~]# systemctl stop firewalld.service      //關閉防火牆
[root@client ~]# setenforce 0                      //關閉selinux
[root@client ~]# rpm -q rsync               //檢查是否安裝rsync服務
rsync-3.0.9-18.el7.x86_64
[root@client ~]# yum install httpd -y         //安裝httpd服務
[root@client ~]# cd /var/www/
[root@client www]# chmod 777 html/               //放開目錄權限
[root@client www]# rsync -avz backuper@192.168.144.128::wwwroot /var/www/html      //拉取共享模塊
Password:                        //輸入密碼  
[root@client www]# cat html/index.html          //查看是否同步信息
this is test web
[root@client www]# rm -rf html/index.html 
[root@client www]# vim /etc/server.pass      //建立本地的密碼文件
123123
[root@client www]# chmod 600 /etc/server.pass       //更改權限
[root@client www]# rsync -avz --delete --password-file=/etc/server.pass backuper@192.168.144.128::wwwroot /var/www/html/         //指定本地密碼文件，刪除目標位置有而原始位置沒有的文件，實現免交互

在client客戶端上安裝inotify（監控）

[root@client www]# vim /etc/sysctl.conf        //修改內核參數文件
fs.inotify.max_queued_events = 16384       //隊列
fs.inotify.max_user_instances = 1024        //每一個隊列中的實例數
fs.inotify.max_user_watches = 1048576      //每一個實例中的文件數
[root@client www]# sysctl -p  ##加載
[root@client www]# mount.cifs //192.168.100.8/LNMP-C7 /mnt/    //掛載
Password for root@//192.168.100.3/LNMP-C7:  
[root@client www]# cd /mnt/
[root@client mnt]# tar zxvf inotify-tools-3.14.tar.gz -C /opt/     //解壓inotify到/opt下
[root@client mnt]# cd /opt/
[root@client opt]# cd inotify-tools-3.14/
[root@client inotify-tools-3.14]# yum install gcc gcc-c++ make -y    //安裝環境
[root@client inotify-tools-3.14]# ./configure              //配置
[root@client inotify-tools-3.14]# make && make install     //編譯安裝
[root@client inotify-tools-3.14]# inotifywait -mrq -e modify,create,move,delete /var/www/html/          //啓動監控

從新開啓一個客戶機的終端

[root@client ~]# cd /var/www/html/
[root@client html]# touch abc
[root@client html]# rm -rf abc

回到開啓監控的終端查看

/var/www/html/ CREATE abc
/var/www/html/ DELETE abc    //顯示監控信息

在client客戶機建立腳本，經過inotifywait觸發rsync同步操做腳本

[root@client inotify-tools-3.14]# cd /opt/
[root@client opt]# vim inotify.sh
#!/bin/bash
INOTIFY_CMD="inotifywait -mrq -e modify,create,move,delete /var/www/html/"
RSYNC_CMD="rsync -avz --delete --password-file=/etc/server.pass /var/www/html/ backuper@192.168.144.128::wwwroot/"
$INOTIFY_CMD | while read DIRECTORY EVENT FILE
 do
     if [ $(pgrep rsync | wc -l) -le 0 ]; then
            $RSYNC_CMD
     fi
done
[root@client opt]# chmod +x inotify.sh    //添加執行權限

在rsyncd服務器上修改配置文件

[root@rsyncd www]# vim /etc/rsyncd.conf
read only = no         //關閉只讀權限
[root@rsyncd www]# netstat -natp | grep rsync
tcp     0    0 192.168.144.128:873    0.0.0.0:*      LISTEN      36346/rsync         
[root@rsyncd www]# kill -9 36346       //關閉服務
[root@rsyncd www]# netstat -natp | grep rsync
[root@rsyncd www]# rm -rf /var/run/rsyncd.pid      //刪除pid文件
[root@rsyncd www]# rsync --daemon              //從新開啓rsync服務

在client客戶機上執行inotify腳本文件

[root@client opt]# ./inotify.sh

從新開啓一個client客戶機終端

[root@client html]# echo "this is test" > test.txt      //添加文本

查看開啓監控服務終端信息

[root@client opt]# ./inotify.sh 
sending incremental file list
./
rsync: failed to set times on "/." (in wwwroot): Operation not permitted (1)
test.txt

sent 121 bytes  received 30 bytes  302.00 bytes/sec
total size is 30  speedup is 0.20
rsync error: some files/attrs were not transferred (see previous errors) (code 23) at main.c(1052) [sender=3.0.9]
sending incremental file list

sent 66 bytes  received 8 bytes  148.00 bytes/sec
total size is 30  speedup is 0.41

在rsync服務器上查看

[root@rsyncd www]# cd html/
[root@rsyncd html]# ls
index.html  test.txt       //實現同步