用rsync對網站進行鏡像備份

對系統管理員來講，平時的工做重心應該集中在維護系統正常運轉，可以正常提供服務上，這裏每每牽涉到一個數據備份的問題，在我所瞭解的狀況中，有 80%的系統管理員不是太關心本身服務器的安全性，但每每對備分鏡像的技術至關感興趣，但因爲商業產品的軟硬件價格都至關高昂，所以每每會選擇自由軟件。這裏準備介紹的rsync就是這樣的軟件，它能夠知足絕大多數要求不是特別高的備份需求。

 

1、特性簡介

rsync是類 unix系統下的數據鏡像備份工具，從軟件的命名上就能夠看出來了——remote sync。它的特性以下：

一、能夠鏡像保存整個目錄樹和文件系統。

二、能夠很容易作到保持原來文件的權限、時間、軟硬連接等等。

三、無須特殊權限便可安裝。

四、優化的流程，文件傳輸效率高。

五、可使用 rcp、ssh等方式來傳輸文件，固然也能夠經過直接的socket鏈接。

六、支持匿名傳輸。

 

2、使用方法

rsync的使用方法很簡單，我就舉本身使用的例子來講明吧。

一、系統環境

rsync支持大多數的類 unix系統，不管是Linux、Solaris仍是BSD上都通過了良好的測試。個人系統環境爲：

server: FreeBSD 4.3  ip: 192.168.168.52

client: Solaris 8    ip: 192.168.168.137

rsync 版本 2.4.6(能夠從http://rsync.samba.org/rsync/得到最新版本)

二、配置 server端的/etc/rsyncd.conf文件

bash-2.03# cat /etc/rsyncd.conf

 

uid = nobody

gid = nobody

use chroot = no                  # 不使用 chroot

max connections = 4              # 最大鏈接數爲 4

pid file = /var/run/rsyncd.pid

lock file = /var/run/rsync.lock

log file = /var/log/rsyncd.log # 日誌記錄文件

[inburst]                        # 這裏是認證的模塊名，在 client端須要指定

path = /home/inburst/python/     # 須要作鏡像的目錄

comment = BACKUP CLIENT IS SOLARIS 8 E250

ignore errors                    # 能夠忽略一些無關的 IO錯誤

read only = yes                  # 只讀

list = no                        # 不容許列文件

auth users = inburst             # 認證的用戶名，若是沒有這行，則代表是匿名

secrets file = /etc/inburst.pas # 認證文件名

[web]

path = /usr/local/apache/htdocs/

comment = inburst.org web server

三、在 server端生成一個密碼文件/etc/inburst.pas

bash-2.03# cat /etc/inburst.pas

inburst:hack

出於安全目的，文件的屬性必需是隻有屬主可讀。

四、在 server端將rsync以守護進程形式啓動

bash-2.03# rsync –daemon

若是要在啓動時把服務起來，有幾種不一樣的方法，好比：

a、加入 inetd.conf

編輯 /etc/services，加入rsync   873/tcp，指定rsync的服務端口是873

編加 /etc/inetd.conf，加入rsync  stream  tcp   nowait  root  /bin/rsync rsync –daemon

b、加入 rc.local

在各類操做系統中， rc文件存放位置不盡相同，能夠修改使系統啓動時rsync --daemon加載進去。

五、從 client端進行測試

下面這個命令行中 -vzrtopg裏的v是verbose，z是壓縮，r是recursive，topg都是保持文件原有屬性如屬主、時間的參數。--progress是指顯示出詳細的進度狀況，--delete是指若是服務器端刪除了這一文件，那麼客戶端也相應把文件刪除，保持真正的一致。後面的inburst@ip中，inburst是指定密碼文件中的用戶名，以後的::inburst這一inburst是模塊名，也就是在/etc/rsyncd.conf中自定義的名稱。最後的/tmp是備份到本地的目錄名。

在這裏面，還能夠用 -e ssh的參數創建起加密的鏈接。能夠用--password-file=/password/path/file來指定密碼文件，這樣就能夠在腳本中使用而無需交互式地輸入驗證密碼了，這裏須要注意的是這份密碼文件權限屬性要設得只有屬主可讀。

bash-2.03# rsync -vzrtopg --progress --delete inburst@192.168.168.52::inburst /tmp/

Password:

receiving file list ... done

./

1

78500%)

1.py

4086 (100%)

2.py

10680 (100%)

A

0 (100%)

Ip

3956 (100%)

./

wrote 190 bytes  read 5499 bytes  758.53 bytes/sec

total size is 19507  speedup is 3.43

六、建立更新腳本

若是有比較複雜的工做，利用一些常見的腳本語言能夠有幫助。好比：

bash-2.03# cat /usr/local/bin/rsync.sh

#!/bin/sh

DATE=`date +%w`

rsync -vzrtopg --progress --delete inburst@192.168.168.52::inburst /home/quack/backup/$DATE --password-file=/etc/rsync.pass > /var/log/rsync.$DATE

七、修改 /etc/crontab作好定時

好比 :

bash-2.03#echo "15 4 * * 6 root rsync.sh">>/etc/crontab

 

3、FAQ

Q：如何經過 ssh進行rsync，並且無須輸入密碼？

A：能夠經過如下幾個步驟

1. 經過 ssh-keygen在server A上創建SSH keys，不要指定密碼，你會在~/.ssh下看到identity和identity.pub文件

2. 在 server B上的home目錄創建子目錄.ssh

3. 將 A的identity.pub拷貝到server B上

4. 將 identity.pub加到~[user b]/.ssh/authorized_keys

5. 因而 server A上的A用戶，可經過下面命令以用戶B ssh到server B上了

e.g. ssh -l userB server

這樣就使 server A上的用戶A就能夠ssh以用戶B的身份無需密碼登錄到server B上了。

 

Q：如何經過在不危害安全的狀況下經過防火牆使用 rsync?

A：解答以下：這一般有兩種狀況，一種是服務器在防火牆內，一種是服務器在防火牆外。

不管哪一種狀況，一般仍是使用 ssh，這時最好新建一個備份用戶，而且配置sshd僅容許這個用戶經過RSA認證方式進入。

若是服務器在防火牆內，則最好限定客戶端的 IP地址，拒絕其它全部鏈接。

若是客戶機在防火牆內，則能夠簡單容許防火牆打開 TCP端口22的ssh外發鏈接就ok了。

 

Q：我能將更改過或者刪除的文件也備份上來嗎？

A：固然能夠，你可使用如： rsync -other -options -backupdir = ./backup-2000-2-13  ...這樣的命令來實現。這樣若是源文件:/path/to/some/file.c改變了，那麼舊的文件就會被移到./backup-2000-2-13/path/to/some/file.c，這裏這個目錄須要本身手工創建起來。

 

Q：我須要在防火牆上開放哪些端口以適應 rsync？

A：視狀況而定， rsync能夠直接經過873端口的tcp鏈接傳文件，也能夠經過22端口的ssh來進行文件傳遞，但你也能夠經過下列命令改變它的端口：

rsync --port 8730 otherhost::或者 rsync -e 'ssh -p 2002' otherhost:

 

Q：我如何經過 rsync只複製目錄結構，忽略掉文件呢？

A： rsync -av --include '*/' --exclude '*' source-dir dest-dir

 

Q：爲何我總會出現 "Read-only file system"的錯誤呢？

A：看看是否忘了設 "read only = no"了

 

Q：爲何我會出現 '@ERROR: invalid gid'的錯誤呢？

A： rsync使用時默認是用uid=nobody;gid=nobody來運行的，若是你的系統不存在nobody組的話，就會出現這樣的錯誤，能夠試試gid = nogroup或者其它

 

Q：綁定端口 873失敗是怎麼回事？

A：若是你不是以 root權限運行這一守護進程的話，由於1024端口如下是特權端口，會出現這樣的錯誤。你能夠用--port參數來改變。

 

Q：爲何我認證失敗？

A：從你的命令行看來你用的是：

> bash$ rsync -a 144.16.251.213::test test

> Password:

> @ERROR: auth failed on module test

>

> I dont understand this. Can somebody explain as to how to acomplish this.

> All suggestions are welcome.

應該是沒有以你的用戶名登錄致使的問題，試試 rsync -a max@144.16.251.213::test test

 

4、一些可借鑑的腳本

這裏這些腳本都是 rsync網站上的例子：

一、每隔七天將數據往中心服務器作增量備份

#!/bin/sh

# This script does personal backups to a rsync backup server. You will end up

# with a 7 day rotating incremental backup. The incrementals will go

# into subdirectories named after the day of the week, and the current

# full backup goes into a directory called "current"

# tridge@linuxcare.com

 

# directory to backup

BDIR=/home/$USER

 

# excludes file - this contains a wildcard pattern per line of files to exclude

EXCLUDES=$HOME/cron/excludes

 

# the name of the backup machine

BSERVER=owl

 

# your password on the backup server

export RSYNC_PASSWORD=XXXXXX

 

########################################################################

 

BACKUPDIR=`date +%A`

OPTS="--force --ignore-errors --delete-excluded --exclude-from=$EXCLUDES

--delete --backup --backup-dir=/$BACKUPDIR -a"

 

export PATH=$PATH:/bin:/usr/bin:/usr/local/bin

 

# the following line clears the last weeks incremental directory

[ -d $HOME/emptydir ] || mkdir $HOME/emptydir

rsync --delete -a $HOME/emptydir/ $BSERVER::$USER/$BACKUPDIR/

rmdir $HOME/emptydir

 

# now the actual transfer

rsync $OPTS $BDIR $BSERVER::$USER/current

 

二、備份至一個空閒的硬盤

#!/bin/sh

 

export PATH=/usr/local/bin:/usr/bin:/bin

 

LIST="rootfs usr data data2"

 

for d in $LIST; do

    mount /backup/$d

    rsync -ax --exclude fstab --delete /$d/ /backup/$d/

    umount /backup/$d

done

 

DAY=`date "+%A"`

 

rsync -a --delete /usr/local/apache /data2/backups/$DAY

rsync -a --delete /data/solid /data2/backups/$DAY

 

三、對 vger.rutgers.edu的cvs樹進行鏡像

#!/bin/bash

 

cd /var/www/cvs/vger/

PATH=/usr/local/bin:/usr/freeware/bin:/usr/bin:/bin

 

RUN=`lps x | grep rsync | grep -v grep | wc -l`

if [ "$RUN" -gt 0 ]; then

    echo already running

    exit 1

fi

 

rsync -az vger.rutgers.edu::cvs/CVSROOT/ChangeLog $HOME/ChangeLog

 

sum1=`sum $HOME/ChangeLog`

sum2=`sum /var/www/cvs/vger/CVSROOT/ChangeLog`

 

if [ "$sum1" = "$sum2" ]; then

    echo nothing to do

    exit 0

fi

 

rsync -az --delete --force vger.rutgers.edu::cvs/ /var/www/cvs/vger/

exit 0

 

四、利用 find的一種巧妙方式

rsync -avR remote:'`find /home -name "*.[ch]"`' /tmp/

能夠用這種方法列出須要備份的文件列表 ——這種方法彷佛比較少人用到。

 

5、參考資料：

一、 http://rsync.samba.org/

二、 rsync examples
三、 rsync FAQ