rsync命令(remote synchronize)是一個遠程數據同步工具,可經過LAN/WAN快速同步多臺主機間的文件。Rsync使用所謂的「Rsync算法」來使本地和遠 程兩個主機之間的文件達到同步,這個算法只傳送兩個文件的不一樣部分,而不是每次都整份傳送,所以速度至關快。linux
Rsync原本是用於替代rcp的一個工具,目前由rsync.samba.org維護,因此rsync.conf文件的格式相似於samba的 主配置文件。Rsync能夠經過rsh或ssh使用,也能以daemon模式去運行,在以daemon方式運行時Rsync server會打開一個873端口,等待客戶端去鏈接。鏈接時,Rsync server會檢查口令是否相符,若經過口令查覈,則能夠開始進行文件傳輸。第一次連通完成時,會把整份文件傳輸一次,之後則就只需進行增量備份。算法
Rsync支持大多數的類Unix系統,不管是Linux、Solaris仍是BSD上都通過了良好的測試。此外,它在windows平臺下也有相應的版本,如cwRsync和Sync2NAS等工具。shell
1: Rsync的基本特色windows
1.能夠鏡像保存整個目錄樹和文件系統;
2.能夠很容易作到保持原來文件的權限、時間、軟硬連接等;
3.無須特殊權限便可安裝;
4.優化的流程,文件傳輸效率高;
5.可使用rsh、ssh等方式來傳輸文件,固然也能夠經過直接的socket鏈接;
6.支持匿名傳輸。bash
2: Rsync同步算法
Rsync只因此同步文件的速度至關快,是由於「Rsync同步算法」能在很短的時間內計算出須要備份的數據,關於Rsync的同步算法描述以下:服務器
假定在1號和2號兩臺計算機之間同步類似的文件A與B,其中1號對文件A擁有訪問權,2號對文件B擁有訪問權。而且假定主機1號與2號之間的網絡帶寬很小。那麼rsync算法將經過下面的五個步驟來完成:網絡
一、2號將文件B分割成一組不重疊的固定大小爲S字節的數據塊,最後一塊可能會比S 小。ssh
二、2號對每個分割好的數據塊執行兩種校驗:一種是32位的滾動弱校驗,另外一種是128位的MD4強校驗socket
三、2號將這些校驗結果發給1號。ide
四、1號經過搜索文件A的全部大小爲S的數據塊(偏移量能夠任選,不必定非要是S的倍數),來尋找與文件B的某一塊有着相同的弱校驗碼和強校驗碼的數據塊。這項工做能夠藉助滾動校驗的特性很快完成。
五、1號發給2號一串指令來生成文件A在2號上的備份。這裏的每一條指令要麼是對文件B經擁有某一個數據塊而不須重傳的證實,要麼是一個數據塊,這個數據塊確定是沒有與文件B的任何一個數據塊匹配上的。
rsync [OPTION]... SRC DEST rsync [OPTION]... SRC [USER@]host:DEST rsync [OPTION]... [USER@]HOST:SRC DEST rsync [OPTION]... [USER@]HOST::SRC DEST rsync [OPTION]... SRC [USER@]HOST::DEST rsync [OPTION]... rsync://[USER@]HOST[:PORT]/SRC [DEST]
對應於以上六種命令格式,rsync有六種不一樣的工做模式:
rsync -a /data /backup
rsync -avz *.c foo:src
rsync -avz foo:src/bar /data
rsync -av root@192.168.78.192::www /databack
rsync -av /databack root@192.168.78.192::www
rsync -v rsync://192.168.78.192/www
-v, --verbose 詳細模式輸出。 -q, --quiet 精簡輸出模式。 -c, --checksum 打開校驗開關,強制對文件傳輸進行校驗。 -a, --archive 歸檔模式,表示以遞歸方式傳輸文件,並保持全部文件屬性,等於-rlptgoD。 -r, --recursive 對子目錄以遞歸模式處理。 -R, --relative 使用相對路徑信息。 -b, --backup 建立備份,也就是對於目的已經存在有一樣的文件名時,將老的文件從新命名爲~filename。可使用--suffix選項來指定不一樣的備份文件前綴。 --backup-dir 將備份文件(如~filename)存放在在目錄下。 -suffix=SUFFIX 定義備份文件前綴。 -u, --update 僅僅進行更新,也就是跳過全部已經存在於DST,而且文件時間晚於要備份的文件,不覆蓋更新的文件。 -l, --links 保留軟鏈結。 -L, --copy-links 想對待常規文件同樣處理軟鏈結。 --copy-unsafe-links 僅僅拷貝指向SRC路徑目錄樹之外的鏈結。 --safe-links 忽略指向SRC路徑目錄樹之外的鏈結。 -H, --hard-links 保留硬鏈結。 -p, --perms 保持文件權限。 -o, --owner 保持文件屬主信息。 -g, --group 保持文件屬組信息。 -D, --devices 保持設備文件信息。 -t, --times 保持文件時間信息。 -S, --sparse 對稀疏文件進行特殊處理以節省DST的空間。 -n, --dry-run現實哪些文件將被傳輸。 -w, --whole-file 拷貝文件,不進行增量檢測。 -x, --one-file-system 不要跨越文件系統邊界。 -B, --block-size=SIZE 檢驗算法使用的塊尺寸,默認是700字節。 -e, --rsh=command 指定使用rsh、ssh方式進行數據同步。 --rsync-path=PATH 指定遠程服務器上的rsync命令所在路徑信息。 -C, --cvs-exclude 使用和CVS同樣的方法自動忽略文件,用來排除那些不但願傳輸的文件。 --existing 僅僅更新那些已經存在於DST的文件,而不備份那些新建立的文件。 --delete 刪除那些DST中SRC沒有的文件。 --delete-excluded 一樣刪除接收端那些被該選項指定排除的文件。 --delete-after 傳輸結束之後再刪除。 --ignore-errors 及時出現IO錯誤也進行刪除。 --max-delete=NUM 最多刪除NUM個文件。 --partial 保留那些因故沒有徹底傳輸的文件,以是加快隨後的再次傳輸。 --force 強制刪除目錄,即便不爲空。 --numeric-ids 不將數字的用戶和組id匹配爲用戶名和組名。 --timeout=time ip超時時間,單位爲秒。 -I, --ignore-times 不跳過那些有一樣的時間和長度的文件。 --size-only 當決定是否要備份文件時,僅僅察看文件大小而不考慮文件時間。 --modify-window=NUM 決定文件是否時間相同時使用的時間戳窗口,默認爲0。 -T --temp-dir=DIR 在DIR中建立臨時文件。 --compare-dest=DIR 一樣比較DIR中的文件來決定是否須要備份。 -P 等同於 --partial。 --progress 顯示備份過程。 -z, --compress 對備份的文件在傳輸時進行壓縮處理。 --exclude=PATTERN 指定排除不須要傳輸的文件模式。 --include=PATTERN 指定不排除而須要傳輸的文件模式。 --exclude-from=FILE 排除FILE中指定模式的文件。 --include-from=FILE 不排除FILE指定模式匹配的文件。 --version 打印版本信息。 --address 綁定到特定的地址。 --config=FILE 指定其餘的配置文件,不使用默認的rsyncd.conf文件。 --port=PORT 指定其餘的rsync服務端口。 --blocking-io 對遠程shell使用阻塞IO。 -stats 給出某些文件的傳輸狀態。 --progress 在傳輸時現實傳輸過程。 --log-format=formAT 指定日誌文件格式。 --password-file=FILE 從FILE中獲得密碼。 --bwlimit=KBPS 限制I/O帶寬,KBytes per second。 -h, --help 顯示幫助信息。
SSH方式
首先在服務端啓動ssh服務:
service sshd start 啓動 sshd: [肯定]
使用rsync進行同步
接下來就能夠在客戶端使用rsync命令來備份服務端上的數據了,SSH方式是經過系統用戶來進行備份的,以下:
rsync -vzrtopg --progress -e ssh --delete work@172.16.78.192:/www/* /databack/experiment/rsync work@172.16.78.192's password: receiving file list ... 5 files to consider test/ a 0 100% 0.00kB/s 527:35:41 (1, 20.0% of 5) b 67 100% 65.43kB/s 0:00:00 (2, 40.0% of 5) c 0 100% 0.00kB/s 527:35:41 (3, 60.0% of 5) dd 100663296 100% 42.22MB/s 0:00:02 (4, 80.0% of 5) sent 96 bytes received 98190 bytes 11563.06 bytes/sec total size is 100663363 speedup is 1024.19
上面的信息描述了整個的備份過程,以及總共備份數據的大小。
後臺服務方式
啓動rsync服務,編輯/etc/xinetd.d/rsync
文件,將其中的disable=yes
改成disable=no
,並重啓xinetd服務,以下:
vi /etc/xinetd.d/rsync #default: off # description: The rsync server is a good addition to an ftp server, as it \ # allows crc checksumming etc. service rsync { disable = no socket_type = stream wait = no user = root server = /usr/bin/rsync server_args = --daemon log_on_failure += USERID }
/etc/init.d/xinetd restart 中止 xinetd: [肯定] 啓動 xinetd: [肯定]
建立密碼文件,採用這種方式不能使用系統用戶對客戶端進行認證,因此須要建立一個密碼文件,其格式爲「username:password」,用戶名能夠和密碼能夠隨便定義,最好不要和系統賬戶一致,同時要把建立的密碼文件權限設置爲600,這在前面的模塊參數作了詳細介紹。
echo "work:abc123" > /etc/rsyncd.passwd chmod 600 /etc/rsyncd.passwd
備份
完成以上工做,如今就能夠對數據進行備份了,以下:
rsync -avz --progress --delete work@172.16.78.192::www /databack/experiment/rsync Password: receiving file list ... 6 files to consider ./ files... a 0 100% 0.00kB/s 528:20:41 (1, 50.0% of 6) b 67 100% 65.43kB/s 0:00:00 (2, 66.7% of 6) c 0 100% 0.00kB/s 528:20:41 (3, 83.3% of 6) dd 100663296 100% 37.49MB/s 0:00:02 (4, 100.0% of 6) sent 172 bytes received 98276 bytes 17899.64 bytes/sec total size is 150995011 speedup is 1533.75
恢復
當服務器的數據出現問題時,那麼這時就須要經過客戶端的數據對服務端進行恢復,但前提是服務端容許客戶端有寫入權限,不然也不能在客戶端直接對服務端進行恢復,使用rsync對數據進行恢復的方法以下:
rsync -avz --progress /databack/experiment/rsync/ work@172.16.78.192::www Password: building file list ... 6 files to consider ./ a b 67 100% 0.00kB/s 0:00:00 (2, 66.7% of 6) c sent 258 bytes received 76 bytes 95.43 bytes/sec total size is 150995011 speedup is 452080.87