在 linux 上使用 rsync 實現文件同步

1. 簡介

rsync 是類 unix 系統下的數據鏡像備份工具。一款支持快速徹底備份和增量備份的工具，支持本地複製，遠程同步等，相似 scp 命令；

rsync 命令在同步文件以前要先登陸目標主機進行用戶身份認證，認證經過以後才能進行數據同步，身份認證方式取決於所使用的協議類型；

rsync 通常使用兩種協議進行數據同步：ssh 協議和 rsync 協議。

2. 特性

• 能夠更新整個目錄樹和文件系統

• 有選擇性的保留符號來接，硬鏈接，文件屬性，權限，設備以及時間

• 對於安裝來講，無任何特殊權限要求

• 對於多個文件來講，傳輸效率很高

• 能用 ssh 或自定義端口做爲傳入入口端口

3. 工做原理

rsync 在進行數據同步以前須要先驗證用戶身份，驗證身份取決於鏈接方式：

• ssh 登陸驗證

  使用 ssh 協議做爲基礎進行用戶身份驗證，而後進行數據同步。

• rsync 登陸驗證 (比較麻煩)

  使用 rsync 協議進行用戶身份認證（非系統用戶），而後進行數據同步

數據同步方式：

1. 推送（上傳，數據恢復）（rsync 服務器 向 其餘服務器推送文件）
2. 拉取（下載，數據備份）（其餘服務器從 rsync 服務器下載文件）

4. 實戰

使用 ssh 協議實現文件同步

準備工做

172.16.10.111（NFS 服務器） 新建 /filesrc 目錄

172.16.10.155 （rsync 服務器）新建 /filedst 目錄

4.1 下載

格式：

rsync -avz 服務器地址:/服務器目錄/* /本地目錄

-a： 遞歸保留對象屬性

-v：顯示同步過程

-z: 傳輸文件時進行壓縮

示例：

​ rsync -avz root@172.16.10.111:/filesrc/* /filedst

---

4.2 上傳

格式：

​ rsync -avz /本地目錄/* 服務器地址:/服務器目錄

示例：

​ rsync -avz /filedst/* root@172.16.10.155:/filesrc

---

4.3 單向實時同步

實時同步的優勢：

• 一旦同步源發生變化，當即啓動備份，實時性好

• 只要同步源沒有變化，則不執行備份，節省資源

實時同步須要結合 inotify 的監控命令，具體原理很少作介紹。 代碼以下：

#!/bin/bash

 a="inotifywait -mrq -e create, delete /filesrc"

 b="rsync -avz /filesrc/* root@172.16.10.111:/filedst"

 $a | while read directory event file

 do 

    $b

 done

4.4 雙向實時同步

rsync 在單向同步上支持的比較好，可是雙向同步支持較差，unision則是雙向同步的優秀工具，可是同步效率很低。

4.4.1 準備安裝包

inotify 包，ocaml 包，unison 包

4.4.2 安裝

1.先安裝 inotify

tar -xf inotify-tools-3.13.tar

cd inotify-tools-3.13

./configure && make && make install

2.再安裝 ocaml

tar -xf ocaml-3.10.0.tar

cd ocaml-3.10.0

./configure

make world opt

make install

3.最後安裝 unison

tar -xf unison-2.13.16.tar

cd unison-2.13.16

make UISTYLE=text THREADS=true STATIC=true

cp unison /usr/local/bin/

4.4.3 啓動腳本

MASTER

#!/bin/bash

# 監控對指定目錄（/filesrc）的建立(create)、刪除(delete)
a="inotifywait -mrq -e create,delete /filesrc"

b="/usr/local/bin/unison -batch /filesrc/ ssh://172.16.10.155//filedst/"

# 持續監控過程當中一旦讀到了目錄指定事件的發生。執行do...done裏面的操做
$a | while read directory event file
do
    $b
done

BACKUP

#!/bin/bash

a="inotifywait -mrq -e create,delete /filedst"
b="/usr/local/bin/unison -batch /filedst/ ssh://172.16.10.111//filesrc/"
$a | while read directory event file
do
    $b
done

後臺啓動腳本

​ bash start.sh &

4.4.4 ssh 免密登陸

參考博客 ： https://blog.csdn.net/yahohi/article/details/15501599

1. 生成 ssh 密鑰對

​ 輸入 ssh-keygen 命令， 一直 enter 鍵 ，最終存放的目錄爲 /root/.ssh/

2. ssh-copy-id -i /root/.ssh/id_rsa.pub 遠程主機

附錄(rsync 參數詳解)

-v, --verbose 詳細模式輸出
-q, --quiet 精簡輸出模式
-c, --checksum 打開校驗開關，強制對文件傳輸進行校驗
-a, --archive 歸檔模式，表示以遞歸方式傳輸文件，並保持全部文件屬性，等於-rlptgoD
-r, --recursive 對子目錄以遞歸模式處理
-R, --relative 使用相對路徑信息
-b, --backup 建立備份，也就是對於目的已經存在有一樣的文件名時，將老的文件從新命名爲~filename。可使用--suffix選項來指定不一樣的備份文件前綴。
--backup-dir 將備份文件(如~filename)存放在在目錄下。
-suffix=SUFFIX 定義備份文件前綴
-u, --update 僅僅進行更新，也就是跳過全部已經存在於DST，而且文件時間晚於要備份的文件。(不覆蓋更新的文件)
-l, --links 保留軟鏈結
-L, --copy-links 想對待常規文件同樣處理軟鏈結
--copy-unsafe-links 僅僅拷貝指向SRC路徑目錄樹之外的鏈結
--safe-links 忽略指向SRC路徑目錄樹之外的鏈結
-H, --hard-links 保留硬鏈結
-p, --perms 保持文件權限
-o, --owner 保持文件屬主信息
-g, --group 保持文件屬組信息
-D, --devices 保持設備文件信息
-t, --times 保持文件時間信息
-S, --sparse 對稀疏文件進行特殊處理以節省DST的空間
-n, --dry-run現實哪些文件將被傳輸
-W, --whole-file 拷貝文件，不進行增量檢測
-x, --one-file-system 不要跨越文件系統邊界
-B, --block-size=SIZE 檢驗算法使用的塊尺寸，默認是700字節
-e, --rsh=COMMAND 指定使用rsh、ssh方式進行數據同步
--rsync-path=PATH 指定遠程服務器上的rsync命令所在路徑信息
-C, --cvs-exclude 使用和CVS同樣的方法自動忽略文件，用來排除那些不但願傳輸的文件
--existing 僅僅更新那些已經存在於DST的文件，而不備份那些新建立的文件
--delete 刪除那些DST中SRC沒有的文件
--delete-excluded 一樣刪除接收端那些被該選項指定排除的文件
--delete-after 傳輸結束之後再刪除
--ignore-errors 及時出現IO錯誤也進行刪除
--max-delete=NUM 最多刪除NUM個文件
--partial 保留那些因故沒有徹底傳輸的文件，以是加快隨後的再次傳輸
--force 強制刪除目錄，即便不爲空
--numeric-ids 不將數字的用戶和組ID匹配爲用戶名和組名
--timeout=TIME IP超時時間，單位爲秒
-I, --ignore-times 不跳過那些有一樣的時間和長度的文件
--size-only 當決定是否要備份文件時，僅僅察看文件大小而不考慮文件時間
--modify-window=NUM 決定文件是否時間相同時使用的時間戳窗口，默認爲0
-T --temp-dir=DIR 在DIR中建立臨時文件
--compare-dest=DIR 一樣比較DIR中的文件來決定是否須要備份
-P 等同於 --partial
--progress 顯示備份過程
-z, --compress 對備份的文件在傳輸時進行壓縮處理
--exclude=PATTERN 指定排除不須要傳輸的文件模式
--include=PATTERN 指定不排除而須要傳輸的文件模式
--exclude-from=FILE 排除FILE中指定模式的文件
--include-from=FILE 不排除FILE指定模式匹配的文件
--version 打印版本信息
--address 綁定到特定的地址
--config=FILE 指定其餘的配置文件，不使用默認的rsyncd.conf文件
--port=PORT 指定其餘的rsync服務端口
--blocking-io 對遠程shell使用阻塞IO
-stats 給出某些文件的傳輸狀態
--progress 在傳輸時現實傳輸過程
--log-format=formAT 指定日誌文件格式
--password-file=FILE 從FILE中獲得密碼
--bwlimit=KBPS 限制I/O帶寬，KBytes per second
-h, --help 顯示幫助信息