Linux下Rsync+Inotify-tools實現數據實時同步

Linux下Rsync+Inotify-tools實現數據實時同步html

 

注意:下面的三個案例都是rsync 每次都是全量的同步(這就坑爹了),並且 file列表是循環形式觸發rsync ,等於有10個文件發生更改,就觸發10次rsync全量同步(簡直就是噩夢),那還不如直接寫個死循環的rsync全量同步得了。node

解決方法
一、作判斷http://www.ttlsa.com/web/let-infotify-rsync-fast/#comments
二、使用金山周洋開發的一個居於inotify+rsync進行二次開發實現文件同步的小工具sersync
http://blog.chinaunix.net/uid-20639775-id-3011124.html
http://www.osyunwei.com/archives/7447.html
http://my.oschina.net/syyzhan/blog/210246
http://www.linuxidc.com/Linux/2012-02/53572.htm
http://storysky.blog.51cto.com/628458/538357/linux

 

兩篇文章都是用的同一個命令c++

用crond分鐘級同步 rsync -a --delete $srcdir $rsyncuser@$ip::$dstdir &git

 

 

http://www.osyunwei.com/archives/7435.htmlgithub

說明:
操做系統:CentOS 5.X
源服務器:192.168.21.129
目標服務器:192.168.21.127,192.168.21.128
目的:把源服務器上/home/www.osyunwei.com目錄實時同步到目標服務器的/home/www.osyunwei.com下
具體操做:web


第一部分:分別在兩臺目標服務器192.168.21.127,192.168.21.128上操做算法


1、分別在兩臺在目標服務器安裝Rsync服務端
一、關閉SELINUX
vi /etc/selinux/config #編輯防火牆配置文件
#SELINUX=enforcing #註釋掉
#SELINUXTYPE=targeted #註釋掉
SELINUX=disabled #增長
:wq! #保存,退出
setenforce 0  #當即生效shell


二、開啓防火牆tcp 873端口(Rsync默認端口)
vi /etc/sysconfig/iptables #編輯防火牆配置文件
-A RH-Firewall-1-INPUT -m state --state NEW -m tcp -p tcp --dport 873 -j ACCEPT
:wq! #保存,退出
/etc/init.d/iptables restart #最後重啓防火牆使配置生效apache


三、安裝Rsync服務端軟件
yum install rsync xinetd #安裝
vi /etc/xinetd.d/rsync #編輯配置文件,設置開機啓動rsync
disable = no #修改成no
:wq! #保存退出
/etc/init.d/xinetd start #啓動(CentOS中是以xinetd來管理Rsync服務的)


四、建立rsyncd.conf配置文件
vi /etc/rsyncd.conf #建立配置文件,添加如下代碼
log file = /var/log/rsyncd.log #日誌文件位置,啓動rsync後自動產生這個文件,無需提早建立
pidfile = /var/run/rsyncd.pid  #pid文件的存放位置
lock file = /var/run/rsync.lock  #支持max connections參數的鎖文件
secrets file = /etc/rsync.pass  #用戶認證配置文件,裏面保存用戶名稱和密碼,後面會建立這個文件
motd file = /etc/rsyncd.Motd  #rsync啓動時歡迎信息頁面文件位置(文件內容自定義)
[home_www.osyunwei.com] #自定義名稱
path = /home/www.osyunwei.com/ #rsync服務端數據目錄路徑
comment = home_www.osyunwei.com #模塊名稱與[home_www.osyunwei.com]自定義名稱相同
uid = root #設置rsync運行權限爲root
gid = root #設置rsync運行權限爲root
port=873  #默認端口
use chroot = no #默認爲true,修改成no,增長對目錄文件軟鏈接的備份
read only = no  #設置rsync服務端文件爲讀寫權限
list = no #不顯示rsync服務端資源列表
max connections = 200 #最大鏈接數
timeout = 600  #設置超時時間
auth users = home_www.osyunwei.com_user #執行數據同步的用戶名,能夠設置多個,用英文狀態下逗號隔開
hosts allow = 192.168.21.129  #容許進行數據同步的客戶端IP地址,能夠設置多個,用英文狀態下逗號隔開
hosts deny = 192.168.21.254 #禁止數據同步的客戶端IP地址,能夠設置多個,用英文狀態下逗號隔開
:wq!  #保存,退出


五、建立用戶認證文件
vi /etc/rsync.pass #配置文件,添加如下內容
home_www.osyunwei.com_user:123456  #格式,用戶名:密碼,能夠設置多個,每行一個用戶名:密碼
:wq!  #保存,退出


六、設置文件權限
chmod 600 /etc/rsyncd.conf  #設置文件全部者讀取、寫入權限
chmod 600 /etc/rsync.pass  #設置文件全部者讀取、寫入權限


七、啓動rsync
/etc/init.d/xinetd start  #啓動
service xinetd stop   #中止
service xinetd restart #從新啓動


第二部分:在源服務器192.168.21.129上操做


1、安裝Rsync客戶端
一、關閉SELINUX
vi /etc/selinux/config #編輯防火牆配置文件
#SELINUX=enforcing #註釋掉
#SELINUXTYPE=targeted #註釋掉
SELINUX=disabled #增長
:wq! #保存,退出
setenforce 0 #當即生效


二、開啓防火牆tcp 873端口(Rsync默認端口,作爲客戶端的Rsync能夠不用開啓873端口)
vi /etc/sysconfig/iptables #編輯防火牆配置文件
-A RH-Firewall-1-INPUT -m state --state NEW -m tcp -p tcp --dport 873 -j ACCEPT
:wq! #保存,退出
/etc/init.d/iptables restart #最後重啓防火牆使配置生效
系統運維  www.osyunwei.com  舒適提醒:qihang01原創內容 版權全部,轉載請註明出處及原文連接


三、安裝Rsync客戶端軟件
whereis rsync   #查看系統是否已安裝rsync,出現下面的提示,說明已經安裝
rsync: /usr/bin/rsync /usr/share/man/man1/rsync.1.gz
yum install  xinetd  #只安裝xinetd便可,CentOS中是以xinetd來管理rsync服務的
yum install rsync xinetd #若是默認沒有rsync,運行此命令進行安裝rsync和xinetd
vi /etc/xinetd.d/rsync #編輯配置文件,設置開機啓動rsync
disable = no #修改成
/etc/init.d/xinetd start #啓動(CentOS中是以xinetd來管理rsync服務的)


四、建立認證密碼文件
vi /etc/passwd.txt  #編輯文件,添加如下內容
123456 #密碼
:wq! #保存退出
chmod 600 /etc/passwd.txt #設置文件權限,只設置文件全部者具備讀取、寫入權限便可


五、測試源服務器192.168.21.129到兩臺目標服務器192.168.21.127,192.168.21.128之間的數據同步
mkdir /home/www.osyunwei.com/ceshi #在源服務器上建立測試文件夾,而後在源服務器運行下面2行命令
rsync -avH --port=873 --progress --delete  /home/www.osyunwei.com/  home_www.osyunwei.com_user@192.168.21.127::home_www.osyunwei.com --password-file=/etc/passwd.txt
rsync -avH --port=873 --progress --delete  /home/www.osyunwei.com/  home_www.osyunwei.com_user@192.168.21.128::home_www.osyunwei.com --password-file=/etc/passwd.txt
運行完成後,分別在兩臺目標服務器192.168.21.127,192.168.21.128上查看,在/home/www.osyunwei.com目錄下有ceshi文件夾,說明數據同步成功。


2、安裝Inotify-tools工具,實時觸發rsync進行同步


一、查看服務器內核是否支持inotify
ll /proc/sys/fs/inotify   #列出文件目錄,出現下面的內容,說明服務器內核支持inotify
-rw-r--r-- 1 root root 0 Mar  7 02:17 max_queued_events
-rw-r--r-- 1 root root 0 Mar  7 02:17 max_user_instances
-rw-r--r-- 1 root root 0 Mar  7 02:17 max_user_watches
備註:Linux下支持inotify的內核最小爲2.6.13,能夠輸入命令:uname -a查看內核


二、安裝inotify-tools
yum install make  gcc gcc-c++  #安裝編譯工具
inotify-tools下載地址:http://github.com/downloads/rvoicilas/inotify-tools/inotify-tools-3.14.tar.gz
上傳inotify-tools-3.14.tar.gz到/usr/local/src目錄下
cd /usr/local/src
tar zxvf inotify-tools-3.14.tar.gz  #解壓
cd inotify-tools-3.14 #進入解壓目錄
./configure --prefix=/usr/local/inotify  #配置
make  #編譯
make install  #安裝


三、設置系統環境變量,添加軟鏈接
echo "PATH=/usr/local/inotify/bin:$PATH" >>/etc/profile.d/inotify.sh
source /etc/profile.d/inotify.sh  #使設置當即生效
echo "/usr/local/inotify/lib" >/etc/ld.so.conf.d/inotify.conf
ln -s /usr/local/inotify/include  /usr/include/inotify


四、修改inotify默認參數(inotify默認內核參數值過小)
查看系統默認參數值
sysctl -a | grep max_queued_events
結果是:fs.inotify.max_queued_events = 16384
sysctl -a | grep max_user_watches
結果是:fs.inotify.max_user_watches = 8192
sysctl -a | grep max_user_instances
結果是:fs.inotify.max_user_instances = 128
修改參數:
sysctl -w fs.inotify.max_queued_events="99999999"
sysctl -w fs.inotify.max_user_watches="99999999"
sysctl -w fs.inotify.max_user_instances="65535"
vi /etc/sysctl.conf #添加如下代碼
fs.inotify.max_queued_events=99999999
fs.inotify.max_user_watches=99999999
fs.inotify.max_user_instances=65535



五、建立腳本,實時觸發rsync進行同步
vi /usr/local/inotify/rsync.sh   #編輯,添加如下代碼
#!/bin/sh
srcdir=/home/www.osyunwei.com/
dstdir=home_www.osyunwei.com
excludedir=/usr/local/inotify/exclude.list
rsyncuser=home_www.osyunwei.com_user
rsyncpassdir=/etc/passwd.txt
dstip="192.168.21.127 192.168.21.128"
for ip in $dstip
do
rsync -avH --port=873 --progress --delete  --exclude-from=$excludedir  $srcdir $rsyncuser@$ip::$dstdir --password-file=$rsyncpassdir
done
/usr/local/inotify/bin/inotifywait -mrq --timefmt '%d/%m/%y %H:%M' --format '%T %w%f%e' -e close_write,delete,create,attrib,move $srcdir |  while read file
do
for ip in $dstip
do
rsync -avH --port=873 --progress --delete  --exclude-from=$excludedir  $srcdir $rsyncuser@$ip::$dstdir --password-file=$rsyncpassdir
echo "  ${file} was rsynced" >> /tmp/rsync.log 2>&1
done
done

 

注意:當寫入一個大文件須要一段事件時,inotify會持續不停輸出該文件被更新的信息,這樣就會持續不斷觸發rsync執行同步,
這樣會佔用大量系統資源,針對這種狀況,最理想的作法是等待文件寫完後再觸發rsync同步,修改inotify的監控事件便可
-e -e close_write,delete,create,attrib,move

原來的是這樣
-e close_write,modify,delete,create,attrib,move $srcdir |  while read file
======================================


chmod +x /usr/local/inotify/rsync.sh   #添加腳本執行權限


腳本參數說明:
srcdir=/home/www.osyunwei.com/  #源服務器同步目錄
dstdir=home_www.osyunwei.com    #目標服務器rsync同步目錄模塊名稱
excludedir=/usr/local/inotify/exclude.list   
#不須要同步的目錄,若是有多個,每一行寫一個目錄,使用相對於同步模塊的路徑;
#例如:不須要同步/home/www.osyunwei.com/目錄下的a目錄和b目錄下面的b1目錄,exclude.list文件能夠這樣寫
a/
b/b1/
rsyncuser=home_www.osyunwei.com_user  #目標服務器rsync同步用戶名
rsyncpassdir=/etc/passwd.txt  #目標服務器rsync同步用戶的密碼在源服務器的存放路徑
dstip="192.168.21.127 192.168.21.128"  #目標服務器ip,多個ip用空格分開
/tmp/rsync.log  #腳本運行日誌記錄


六、設置腳本開機自動執行
vi /etc/rc.d/rc.local  #編輯,在最後添加一行
sh /usr/local/inotify/rsync.sh & #設置開機自動在後臺運行腳本
:wq!  #保存退出


七、測試inotify實時觸發rsync同步腳本是否正常運行
在源服務器192.168.21.129上建立文件inotify_rsync_ceshi
mkdir /home/www.osyunwei.com/inotify_rsync_ceshi
從新啓動源服務器:192.168.21.129
等系統啓動以後,查看兩臺目標服務器192.168.21.127,192.168.21.128的/home/www.osyunwei.com下是否有inotify_rsync_ceshi文件夾
而後再在源服務器192.168.21.129建立文件夾inotify_rsync_ceshi_new
mkdir /home/www.osyunwei.com/inotify_rsync_ceshi_new
繼續查看兩臺目標服務器192.168.21.127,192.168.21.128的/home/www.osyunwei.com下是否有inotify_rsync_ceshi_new文件夾
若是以上測試都經過,說明inotify實時觸發rsync同步腳本運行正常。

 


至此,Linux下Rsync+Inotify-tools實現數據實時同步完成。


============================================


ll /usr/local/inotify/bin
-rwxr-xr-x 1 root root 44319 Feb  5 16:32 inotifywait
-rwxr-xr-x 1 root root 41425 Feb  5 16:32 inotifywatch

兩個可執行文件
inotifywait:用於等待文件或文件集上的一個特定事件,能夠監控任何文件和目錄設置,而且能夠遞歸地監控整個目錄樹
inotifywatch:用於收集被監控的文件系通通計數據,包括每一個inotify事件發送多少次等信息


 ll /proc/sys/fs/inotify/
total 0
-rw-r--r-- 1 root root 0 Feb  5 11:59 max_queued_events
-rw-r--r-- 1 root root 0 Feb  5 11:59 max_user_instances
-rw-r--r-- 1 root root 0 Feb  5 11:59 max_user_watches



inotify定義了一些接口參數,用來限制inotify消耗kernel memory的大小,因爲這些參數都是內存參數,因此根據實際狀況進行調整。
max_queued_events:調用inotify_init時分配到inotify instances中可排隊的event數的最大值,超出這個值的事件被丟棄,但會觸發IN_Q_OVERFLOW事件
max_user_instances:表示每個real user ID可建立的inotify instances 數量的上限
max_user_watches:表示每一個inotify實例相關的watches的上限,也就是每一個inotify實例可監控的最大目錄數量。若是監控文件數目巨大,須要根據狀況適當增大這個值,例如 echo 30000000 >/proc/sys/fs/inotify/max_user_watches

參數說明:
max_queued_events:inotify隊列最大長度,若是值過小,會出現"** Event Queue Overflow **"錯誤,致使監控文件不許確
max_user_instances:每一個用戶建立inotify實例最大值
max_user_watches:要同步的文件包含多少目錄,能夠用:find /home/www.osyunwei.com -type d | wc -l 統計,必須保證max_user_watches值大於統計結果(這裏/home/www.osyunwei.com爲同步文件目錄)
系統運維 www.osyunwei.com 舒適提醒:qihang01原創內容 版權全部,轉載請註明出處及原文連接

 



inotify參數
-m 是保持一直監聽
-r 是遞歸查看目錄
-q 是打印監控事件
-e create,move,delete,modify,attrib 是指 「監聽 建立 移動 刪除 寫入 權限」 事件



============================================
rsync參數

-v, --verbose 詳細模式輸出
-q, --quiet 精簡輸出模式
-c, --checksum 打開校驗開關,強制對文件傳輸進行校驗
-a, --archive 歸檔模式,表示以遞歸方式傳輸文件,並保持全部文件屬性,等於-rlptgoD
-r, --recursive 對子目錄以遞歸模式處理
-R, --relative 使用相對路徑信息
-b, --backup 建立備份,也就是對於目的已經存在有一樣的文件名時,將老的文件從新命名爲~filename。可使用--suffix選項來指定不一樣的備份文件前綴。
--backup-dir 將備份文件(如~filename)存放在在目錄下。
-suffix=SUFFIX 定義備份文件前綴
-u, --update 僅僅進行更新,也就是跳過全部已經存在於DST,而且文件時間晚於要備份的文件。(不覆蓋更新的文件)
-l, --links 保留軟鏈結
-L, --copy-links 想對待常規文件同樣處理軟鏈結
--copy-unsafe-links 僅僅拷貝指向SRC路徑目錄樹之外的鏈結
--safe-links 忽略指向SRC路徑目錄樹之外的鏈結
-H, --hard-links 保留硬鏈結
-p, --perms 保持文件權限
-o, --owner 保持文件屬主信息
-g, --group 保持文件屬組信息
-D, --devices 保持設備文件信息
-t, --times 保持文件時間信息
-S, --sparse 對稀疏文件進行特殊處理以節省DST的空間
-n, --dry-run現實哪些文件將被傳輸
-W, --whole-file 拷貝文件,不進行增量檢測
-x, --one-file-system 不要跨越文件系統邊界
-B, --block-size=SIZE 檢驗算法使用的塊尺寸,默認是700字節
-e, --rsh=COMMAND 指定使用rsh、ssh方式進行數據同步
--rsync-path=PATH 指定遠程服務器上的rsync命令所在路徑信息
-C, --cvs-exclude 使用和CVS同樣的方法自動忽略文件,用來排除那些不但願傳輸的文件
--existing 僅僅更新那些已經存在於DST的文件,而不備份那些新建立的文件
--delete 刪除那些DST中SRC沒有的文件
--delete-excluded 一樣刪除接收端那些被該選項指定排除的文件
--delete-after 傳輸結束之後再刪除
--ignore-errors 及時出現IO錯誤也進行刪除
--max-delete=NUM 最多刪除NUM個文件
--partial 保留那些因故沒有徹底傳輸的文件,以是加快隨後的再次傳輸
--force 強制刪除目錄,即便不爲空
--numeric-ids 不將數字的用戶和組ID匹配爲用戶名和組名
--timeout=TIME IP超時時間,單位爲秒
-I, --ignore-times 不跳過那些有一樣的時間和長度的文件
--size-only 當決定是否要備份文件時,僅僅察看文件大小而不考慮文件時間
--modify-window=NUM 決定文件是否時間相同時使用的時間戳窗口,默認爲0
-T --temp-dir=DIR 在DIR中建立臨時文件
--compare-dest=DIR 一樣比較DIR中的文件來決定是否須要備份
-P 等同於 --partial
--progress 顯示備份過程
-z, --compress 對備份的文件在傳輸時進行壓縮處理
--exclude=PATTERN 指定排除不須要傳輸的文件模式
--include=PATTERN 指定不排除而須要傳輸的文件模式
--exclude-from=FILE 排除FILE中指定模式的文件
--include-from=FILE 不排除FILE指定模式匹配的文件
--version 打印版本信息
--address 綁定到特定的地址
--config=FILE 指定其餘的配置文件,不使用默認的rsyncd.conf文件
--port=PORT 指定其餘的rsync服務端口
--blocking-io 對遠程shell使用阻塞IO
-stats 給出某些文件的傳輸狀態
--progress 在傳輸時現實傳輸過程
--log-format=formAT 指定日誌文件格式
--password-file=FILE 從FILE中獲得密碼
--bwlimit=KBPS 限制I/O帶寬,KBytes per second
-h, --help 顯示幫助信息


============================================

第二篇

http://www.showerlee.com/archives/678

 

inotify是一種強大的,細粒度的,異步文件系統時間監控機制,它能夠替代crond實現與rsync的觸發式文件同步,從而監控文件系統中添加,刪除,修改,移動等細粒事件,從LINUX 2.6.13起,就已加入了對inotify的支持,因此咱們只須要安裝一個第三方軟件inotify-tools便可管理此服務。

   以前利用的rsync+crond來觸發實現同步的瓶頸在於,rsync在同步數據時,須要先掃描全部文件後進行比對,然後進行差別傳輸,若是文件數量級別很大並且變化會很快,掃描全部文件會很是耗時,並且會存在漏同步的問題,形成效率低下。

   而rsync+inotify則會彌補前者先掃描後同步的效率問題,採用系統級別監控各類變化,當文件發生任何變化,就會觸發rsync同步,解決效率與實時性問題。

LINUX操做系統:  centOS6.3 64bit

rsync:          系統自帶

inotify-tools:  inotify-tools-master

www1(rsync server):192.168.7.73

www2(rsync client):192.168.7.74

拓撲圖:

1

(server)表示僅服務端配置

(client)表示僅客戶端配置

(server,client)表示客戶端與服務端都需配置

環境搭建:(server,client)

1.關閉iptables和SELINUX

# service iptables stop

# setenforce 0

# vi /etc/sysconfig/selinux

---------------

SELINUX=disabled

---------------

判斷LINUX系統內核是否達到2.6.13以上:

# uname -a

-------------

Linux www1.example.com 2.6.32-279.el6.x86_64 #1 SMP Fri Jun 22 12:19:21 UTC 2012 x86_64 x86_64 x86_64 GNU/Linux

-------------

查看inotify目錄是否存在:

# ls -lsart /proc/sys/fs/inotify/

------------------

總用量 0

0 dr-xr-xr-x 0 root root 0 6月   4 14:04 ..

0 dr-xr-xr-x 0 root root 0 6月   4 17:35 .

0 -rw-r--r-- 1 root root 0 6月   4 17:35 max_user_watches

0 -rw-r--r-- 1 root root 0 6月   4 17:35 max_user_instances

0 -rw-r--r-- 1 root root 0 6月   4 17:35 max_queued_events

------------------

若返回以上內容,則系統支持inotify.

一.安裝rsync:(server,client)

傳送門:http://www.showerlee.com/archives/419

配置:(server)

# vi /etc/rsyncd.conf

--------------------

uid = root

gid = root

use chroot = no

max connections = 10

strict modes = yes

port = 873

address = 192.168.7.73

[test]

path = /test

comment = mirror for test

ignore errors

read only = no

list = no

auth users = user

secrets file = /etc/rsync.pas

hosts allow = *

# hosts deny = 0.0.0.0/0

pid file = /var/run/rsyncd.pid

lock file = /var/run/rsync.lock

log file = /var/log/rsyncd.log

--------------------

啓動rsync

# rsync --daemon --config=/etc/rsyncd.conf

重啓xinetd使其配置生效:

# /etc/init.d/xinetd restart

二.安裝inotify-tools:(server,client)

能夠到https://github.com/rvoicilas/inotify-tools/下載zip包,而後傳到系統進行編譯安裝:

# unzip inotify-tools-master.zip

# cd inotify-tools-master

# ./autogen.sh

# ./configure --prefix=/usr/local/inotify

# make && make install

配置client端的inotify:(client)

# vi /etc/rc.d/inotify.sh

該腳本在作客戶端目錄下文件若發生變化,則向服務端作同步上傳操做,也就是保持客戶端目錄文件發生變化,服務端也相應改變。

------------------

#!/bin/bash

src=/test

des=test

ip=192.168.7.73

/usr/local/inotify/bin/inotifywait -mrq --timefmt '%d/%m/%y/%H:%M' --format '%T%w%f' -e   close_write,delete,create,attrib $src | while read file

  do

       rsync -vzrtopg --delete --progress $src user@$ip::$des --password-file=/etc/rsync.pas &&

   echo "$src has been resynced"  >> /tmp/rsyncd.log 2>&1

  done

------------------

賦予執行權限

# chmod +x /etc/rc.d/inotify.sh

執行腳本並作開機啓動:

# /etc/rc.d/inotify.sh

# echo "/etc/rc.d/inotify.sh" >> /etc/rc.local

注:這個腳本的做用是經過inotify監控文件目錄的變化,進而觸發rsync進行同步操做,因爲這是經過內核完成的主動式觸發操做,因此比rsync遍歷整個目錄的掃描方式效率要高不少。

驗證:

在客戶端建立5個文件,到服務端查看文件是否實時同步?

(client)

# cd /test

# touch 1 2 3 4 5

(server)

# cd /test

# ls

-------------

1  2  3  4  5

-------------

驗證成功,client端的目錄發生變化會實時同步到server端,相似一個網絡raid-1

總結:

rsync+inotify比較適用於輕量級文件即時同步,若是量大建議仍是使用共享存儲方法解決


 

inotify+rsync原理實驗詳解

http://www.linuxidc.com/Linux/2013-09/89588.htm

 

1、rsync介紹:
rsync是類unix系統下的數據鏡像備份工具,從軟件的命名上就能夠看出來--remote sync。

特性:
l能夠鏡像保存整個目錄樹和文件系統。
l能夠很容易作到保持原來文件的權限、時間、軟硬連接等等。
l無須特殊權限便可安裝。
l快速:第一次同步時 rsync 會複製所有內容,但在下一次只傳輸修改過的文件。rsync 在傳輸數據的過程當中能夠實行壓縮及解壓縮操做,所以可使用更少的帶寬。
l安全:可使用scp、ssh等方式來傳輸文件,固然也能夠經過直接的socket鏈接。

2、inotify介紹:
inotify能夠監控文件,也能夠監控目錄。當監控目錄時,它能夠同時監控目錄及目錄中的各子目錄及文件的。此外,inotify 使用文件描述符做爲接口,於是可使用一般的文件I/O操做select、poll和epoll來監視文件系統的變化。

inotify能夠監視的文件系統常見事件包括:
2IN_ACCESS:文件被訪問
2IN_MODIFY:文件被修改
2IN_ATTRIB,文件屬性被修改
2IN_CLOSE_WRITE,以可寫方式打開的文件被關閉
2IN_CLOSE_NOWRITE,以不可寫方式打開的文件被關閉
2IN_OPEN,文件被打開
2IN_MOVED_FROM,文件被移出監控的目錄
2IN_MOVED_TO,文件被移入監控着的目錄
2IN_CREATE,在監控的目錄中新建文件或子目錄
2IN_DELETE,文件或目錄被刪除
2IN_DELETE_SELF,自刪除,即一個可執行文件在執行時刪除本身
2IN_MOVE_SELF,自移動,即一個可執行文件在執行時移動本身

3、inotify-tools
inotify是一個API,須要經過開發應用程序進行調用,對於大多數用戶來說這有着許多不便,inotify-tools的出現彌補了這一不足。inotify-tools是一套組件,它包括一個C庫和幾個命令行工具,這些命令行工具可用於經過命令行或腳本對某文件系統的事件進行監控。

inotify-tools提供的兩個命令行工具:
notifywait:經過inotify API等待被監控文件上的相應事件並返回監控結果,默認狀況下,正常的結果返回至標準輸出,診斷類的信息則返回至標準錯誤輸出。它能夠在監控到對應監控對象上指定的事件後退出,也能夠進行持續性的監控。
inotifywatch:經過inotify API收集被監控文件或目錄的相關事件並輸出統計信息。

inotifywait命令使用簡介:
inotifywait尤爲適用於在腳本中等待某事件的發生,並可基於特定的事件執行相應操做。如將其用於腳本中監控某指定目錄中的文件上的修改、新建、刪除、屬性信息的改變,然後使用rsync命令將某事件對應的文件同步至其它主機上。其經常使用選項以下:
-m, --monitor:inotifywait的默認動做是在監控至指定文件的特定事件發生一次後就退出了,而使用此選項則可實現持續性的監控;
-r, --recursive:遞歸監控指定目錄下的全部文件,包括新建的文件或子目錄;若是要監控的目錄中文件數量巨大,則一般須要修改/proc/sys/fs/inotify/max_users_watchs內核參數,由於其默認值爲8192。
-e <event>, --event<event>:指定要監控的特定事件,默認是監控全部的事件;此處<event>包括access, modify, attrib,close_write, close_nowirte, close, open, moved_to, moved_from, move, create,delete, delete_selt等;
--timefmt <fmt>:當在--format選項中使用%T時,--timefrt選項則能夠用來指定自定義的符合strftime規範的時間格式,此時間格式可用的格式符能夠經過strftime的手冊頁獲取;--timefrt後經常使用的參數是'%d/%m/%y %H:%M';
--format <fmt>:自定義inotifywait的輸出格式,如--format '%T %w %f';經常使用的格式符以下:
%w:顯示被監控文件的文件名;
%f:若是發生某事件的對象是目錄,則顯示被監控目錄的名字;默認顯示爲空串;
%T:使用--timefmt選項中自定義的時間格式;

4、inotify+rsync實驗過程:

inotify+rsync原理實驗詳解

服務器 IP地址 文件路徑

files 172.16.2.1 /www/webpages
web01
172.16.2.2 /www/webpages

配置過程:
files配置:

一、安裝inotify:
# tar xf inotify-tools-3.14.tar.gz
# cd inotify-tools-3.14
# ./configure && make && make install
# mkdir /root/scripts

# vim /root/scripts/in_rsync.sh 編寫腳本內容以下:
#!/bin/bash
host1=172.16.2.2
src=/www/webpages
dst1=web01
user1=root
/usr/local/bin/inotifywait -mrq --timefmt '%d/%m/%y %H:%M' --format '%T %w%f%e' -e  close_write,delete,create,attrib $src \
| while read files;do
/usr/bin/rsync -zrtopg --delete --password-file=/etc/rsyncd.pass $src $user1@$host1::$dst1 >/dev/null 2>&1
echo "${files} was rsynced" >>/tmp/rsync.log 2>&1 >/dev/null
done
# chmod +x /root/scripts/in_rsync.sh
# setenforce 0
# service iptables stop
# vim /etc/rsyncd.pass
rsync
# chmod 600 /etc/rsyncd.pass
# nohup /root/scripts/in_rsync.sh & //掛載到後臺執行同步
# echo 「nohup /root/scripts/in_rsync.sh &」 >>/etc/rc.local //添加到開機啓動中

web服務器配置

# yum install xinetd rsync –y
# vim /etc/rsyncd.conf //添加如下內容
#Global Settings
uid = root
gid = root
use chroot = no
max connections = 20
strict modes = yes
log file = /var/log/rsyncd.log
pid file = /var/run/rsyncd.pid
lock file = /var/run/rsync.lock
log format = %t %a %m %f %b
[web01]
path = /www
auth users = root
read only = no
hosts allow =172.16.2.0/24
list = no
uid = root
gid = root
secrets file = /etc/rsyncd.pass
ignore errors = yes
# vim /etc/rsyncd.pass //添加如下內容:
root:rsync
# chmod 600 /etc/rsyncd.pass //設置600權限。
# setenforce 0
# service iptables stop
# /usr/bin/rsync –daemon //啓動rsync
# echo 「/usr/bin/rsync --daemon」 >>/etc/rc.local //添加開機自動啓動

安裝apache

能夠參考《企業級LAMMP架構應用實踐》 描述進行部署。見 http://www.linuxidc.com/Linux/2013-08/89338.htm

在files服務器上的/www/webpages下添加一個文件,而後在web01上的/www/webpages/下也能夠看到同步一個文件,以下圖所示:

 

固然修改和刪除文件都可以實時同步,若是是多臺web服務器,就能夠保證web的頁面是同樣的了。
inotify+rsync實驗完成!


 

http://blog.chinaunix.net/uid-20639775-id-3011124.html

1、 inotify簡介Inotify 是基於inode級別的文件系統監控技術,是一種強大的、細粒度的、異步的機制,它知足各類各樣的文件監控須要,不只限於安全和性能,內核要求2.6.13以上,inotify能監控很是多的文件系統事件,經過監控這些事件來監控文件是否發生變動,而後經過rsync來更新發生變動的文件,Inotify 能夠監視的文件系統事件包括:· IN_ACCESS,即文件被訪問· IN_MODIFY,文件被 write· IN_ATTRIB,文件屬性被修改,如 chmod、chown、touch 等· IN_CLOSE_WRITE,可寫文件被 close· IN_CLOSE_NOWRITE,不可寫文件被 close· IN_OPEN,文件被 open· IN_MOVED_FROM,文件被移走,如 mv· IN_MOVED_TO,文件被移來,如 mv、cp· IN_CREATE,建立新文件· IN_DELETE,文件被刪除,如 rm· IN_DELETE_SELF,自刪除,即一個可執行文件在執行時刪除本身· IN_MOVE_SELF,自移動,即一個可執行文件在執行時移動本身· IN_UNMOUNT,宿主文件系統被 umount· IN_CLOSE,文件被關閉,等同於(IN_CLOSE_WRITE | IN_CLOSE_NOWRITE)· IN_MOVE,文件被移動,等同於(IN_MOVED_FROM | IN_MOVED_TO)備註:上面的文件也包括目錄。

相關文章
相關標籤/搜索