一.實(shí)時同步簡介

1.什么是實(shí)時同步, 只要當(dāng)前目錄發(fā)生變化則會觸發(fā)一個事件钝侠，事件觸發(fā)后將變化的目錄同步至遠(yuǎn)程服務(wù)器。
2.為什么要實(shí)時同步, 保證數(shù)據(jù)的連續(xù)性, 減少人力維護(hù)成本, 解決nfs等單點(diǎn)故障
3.實(shí)時同步實(shí)現(xiàn)原理, 實(shí)時同步需要借助 Inotify通知接口溉奕，用來監(jiān)控目錄的變化，如果監(jiān)控的目錄發(fā)生變更。則觸發(fā)動作箭昵，這個動作可以是進(jìn)行一次同步操作侨糟，或其他操作碍扔。
4.實(shí)時同步工具選擇, 有sersync、lsync秕重、inotify+rsync不同，通常我們會選擇 sersyn或lsync。

二.如何實(shí)現(xiàn)實(shí)時備份

之前已經(jīng)介紹了全網(wǎng)備份,具體可以參考鏈接文檔：http://www.reibang.com/p/b0157e4ab801
這樣設(shè)置的全網(wǎng)備份是已經(jīng)可以完成一個遠(yuǎn)程容災(zāi)備份的系統(tǒng)溶耘，但是這樣的方案是存在很大的缺陷二拐，由于rsync需要通過觸發(fā)才能將客戶端的數(shù)據(jù)推送到服務(wù)端，而觸發(fā)則是通過定時任務(wù)來完成的凳兵，因此在兩次觸發(fā)同步操作的時間間隔內(nèi)卓鹿，服務(wù)端的數(shù)據(jù)與客戶端的數(shù)據(jù)出現(xiàn)了不一致。如果在這個時間間隔內(nèi)留荔，網(wǎng)站系統(tǒng)出現(xiàn)了問題吟孙，也就意味著數(shù)據(jù)會出現(xiàn)丟失情況，因此聚蝶，通過這種方式搭建的容災(zāi)系統(tǒng)在網(wǎng)站出現(xiàn)故障時是不能完全恢復(fù)的杰妓。
那么對于數(shù)據(jù)安全極高的業(yè)務(wù)系統(tǒng)，如何才能做到服務(wù)端和客戶端數(shù)據(jù)實(shí)時同步呢碘勉？隨著Linux版本的更新巷挥，在Linux2.6.13以后的內(nèi)核提供了inotify文件系統(tǒng)監(jiān)控機(jī)制，通過rsync與inotify的組合使用验靡，完全可以實(shí)現(xiàn)rsync服務(wù)端和客戶端數(shù)據(jù)的實(shí)時同步倍宾。

三.場景規(guī)劃以及地址分配

這里當(dāng)客戶端的數(shù)據(jù)發(fā)生變化時實(shí)時將數(shù)據(jù)推送到備份服務(wù)器端。

四.通過rsync+inotify實(shí)現(xiàn)數(shù)據(jù)實(shí)時備份

1.rsync的優(yōu)點(diǎn)與不足

1）優(yōu)點(diǎn)：與傳統(tǒng)命令備份（tar胜嗓、cp...）相比高职，rsync具有安全性高、備份迅速辞州、支持增量備份等優(yōu)點(diǎn)怔锌，通過rsync可以解決對實(shí)時性要求不高的數(shù)據(jù)備份的需求，例如，定期備份服務(wù)器的數(shù)據(jù)到遠(yuǎn)端服務(wù)器埃元，對本地磁盤數(shù)據(jù)進(jìn)行數(shù)據(jù)鏡像等涝涤。
2）缺點(diǎn)：對于數(shù)據(jù)安全性要求更高的需求，rsync就會出現(xiàn)很多不足的情況岛杀。
①rsync同步數(shù)據(jù)時阔拳，需要掃描所有的文件進(jìn)行對比后再進(jìn)行差量傳輸，如果文件數(shù)量達(dá)上萬級別或者更多時类嗤，掃描文件就需要消耗很長的時間糊肠，而更新或者新產(chǎn)生的數(shù)據(jù)往往就只是很少的一部分，這樣就導(dǎo)致了效率低下的問題土浸。
②rsync本身是不具備實(shí)時監(jiān)測罪针，同步數(shù)據(jù)的功能彭羹，雖然可以通設(shè)置定時任務(wù)結(jié)合rsync的守護(hù)進(jìn)程的工作模式來實(shí)現(xiàn)數(shù)據(jù)同步黄伊，但是會出現(xiàn)時間間隔內(nèi)出現(xiàn)故障導(dǎo)致數(shù)據(jù)不一致的情況，出現(xiàn)故障時就會出現(xiàn)無法完全恢復(fù)數(shù)據(jù)的情況派殷。

2.inotify簡介

inotify是一種強(qiáng)大的还最、細(xì)粒度的、異步的文件系統(tǒng)時間監(jiān)控機(jī)制毡惜，linux內(nèi)核從2.16.13版本開始拓轻，加入了對inotify的支持。通過inotify可以監(jiān)控文件系統(tǒng)中添加经伙、刪除扶叉、修改、移動等各種各種細(xì)微的事件帕膜，利于這個內(nèi)核的接口枣氧，第三方軟件就可以監(jiān)控文件的各種變化情況。inotify-tools就是這樣一個第三方工具垮刹。

3.intofy的優(yōu)點(diǎn)與不足

1）優(yōu)點(diǎn)：可以監(jiān)控文件系統(tǒng)事件變化
2）缺點(diǎn)：
①并發(fā)如果大于200個文件（10-100k）达吞，同步就會有延遲
②前面的腳本，每次全部推送一次荒典，也可以實(shí)現(xiàn)值同步變化的數(shù)據(jù)酪劫，效率低下
③監(jiān)控到事件后，調(diào)用rsync同步是單進(jìn)程
④寫腳本實(shí)現(xiàn)實(shí)時同步健壯性不高

4.部署inotify

1.檢查系統(tǒng)內(nèi)核版本是否支持

由于inotify是需要linux內(nèi)核支持才可以使用寺董，如果內(nèi)核低于2.6.13版本覆糟，就需要重新編譯內(nèi)核加入inotify的支持。
[root@nfs ~]# uname -r
3.10.0-957.el7.x86_64

2.安裝inotify

[root@nfs ~]# yum -y install inotify-tools
安裝完成inotify-tools后遮咖，會生成inotifywait和inotifywatch兩個指令
#inotifywait用于等待文件或文件集上的一個特定事件搪桂，可以監(jiān)控任何文件和目錄設(shè)置，并且可以遞歸地監(jiān)控整個目錄樹。
#inotifywachey用于收集被監(jiān)控的文件系統(tǒng)統(tǒng)計(jì)數(shù)據(jù)踢械，包括每個inotify事件發(fā)生多少次等信息酗电。

3.inotify參數(shù)說明

inotifywait詳細(xì)參數(shù)說明

-e ：--event的各種事件含義

4.命令測試

[root@nfs ~]# /usr/bin/inotifywait -mrq --format '%w %f' -e create,delete, attrib, close_ write  /backup

5.編寫腳本實(shí)現(xiàn)

#!/bin/bash

backup_Server=172.16.1.41


/usr/bin/inotifywait -mrq --format '%w%f' -e create,close_write,delete /data | while read line
do
    cd /data
    rsync -az ./ --delete rsync_backup@$backup_Server::nfsbackup --password-file=/etc/rsync.password
done

提示：上面這個腳本效率很低，效率低的原因在于只要目錄出現(xiàn)變化都會導(dǎo)致整個目錄下的東西都被推送一遍内列。因此撵术，可以參考一下以下的腳本。

#!/bin/bash

Path=/data
backup_Server=172.16.1.41


/usr/bin/inotifywait -mrq --format '%w%f' -e create,close_write,delete /data  | while read line  
do
    if [ -f $line ];then
        rsync -az $line --delete rsync_backup@$backup_Server::nfsbackup --password-file=/etc/rsync.password       
    else
        cd $Path &&\
        rsync -az ./ --delete rsync_backup@$backup_Server::nfsbackup --password-file=/etc/rsync.password
    fi

done

說明：以上的方案目前不在使用或者說使用的比較少话瞧，以上腳本是已經(jīng)檢驗(yàn)過的嫩与，你可以根據(jù)需求自行修改就可以了。

五.sersync介紹與使用

1.sersyc簡介

sersync是國人基于rsync+inotify-tools開發(fā)的工具交排，不僅保留了優(yōu)點(diǎn)同時還強(qiáng)化了實(shí)時監(jiān)控划滋，文件過濾，簡化配置等功能埃篓，幫助用戶提高運(yùn)行效率处坪，節(jié)省時間和網(wǎng)絡(luò)資源。sersync項(xiàng)目地址 :https://github.com/wsgzao/sersync

2.serync的優(yōu)點(diǎn)

1.sersync是使用c++編寫,而且對linux系統(tǒng)文件系統(tǒng)產(chǎn)生的臨時文件和重復(fù)的文件操作進(jìn)行過濾(詳細(xì)見附錄,這個過濾腳本程序沒有實(shí)現(xiàn)),所以結(jié)合rsync同步的時候,節(jié)省了運(yùn)行時耗和網(wǎng)絡(luò)資源,因此更快
2.相比較上面兩個項(xiàng)目,sersync配置起來很簡單,其中bin目錄下已經(jīng)有基本上靜態(tài)編譯的2進(jìn)制文件,配合bin目錄下的xml配置文件直接使用即可.
3.另外本項(xiàng)目相比較其他腳本開源項(xiàng)目,使用多線程進(jìn)行同步,尤其在同步較大文件時,能夠保證多個服務(wù)器保持同步狀態(tài)
4.本項(xiàng)目有出錯處理機(jī)制,通過失敗隊(duì)列對出錯的文件重新同步,如果仍舊失敗,則每10個小時對同步失敗的文件重新同步
5.本項(xiàng)目自帶crontab功能,只需在xml配置文件中開啟,即可按照您的要求,隔一段時間整體同步一次,無須在額外配置crontab功能
6.本項(xiàng)目socket與http插件拓展,滿足您二次開發(fā)的需要架专。

3.sersync部署實(shí)踐

說明：這里環(huán)境與之前一樣同窘，這里不再重復(fù)配置rsync服務(wù)，如果這里不會配置請參照這個鏈接進(jìn)行操作配置：http://www.reibang.com/p/b0157e4ab801

1）安裝sersync

#創(chuàng)建工具下載保存目錄并下載sersync
[root@nfs ~]# mkdir /server/tools -p
[root@nfs ~]# cd /server/tools
[root@nfs /server/tools]# wget http://down.whsir.com/downloads/sersync2.5.4_64bit_binary_stable_final.tar.gz
#解壓并將GNU-Linux-x86/移動到/usr/local/sersync
[root@nfs /server/tools]# tar zxf sersync2.5.4_64bit_binary_stable_final.tar.gz
[root@nfs /server/tools]# ls
GNU-Linux-x86  sersync2.5.4_64bit_binary_stable_final.tar.gz
[root@nfs /server/tools]# mv GNU-Linux-x86/ /usr/local/sersync
[root@nfs /server/tools]# cd /usr/local/sersync/
[root@nfs /usr/local/sersync]# ls
confxml.xml  sersync2

2)配置sersync

#備份默認(rèn)的配置文件
[root@nfs /usr/local/sersync]# cp confxml.xml confxml.xml.bak
#修改配置文件
[root@nfs /usr/local/sersync]# vim confxml.xml
<?xml version="1.0" encoding="ISO-8859-1"?>
<head version="2.5">
    <host hostip="localhost" port="8008"></host>
    <debug start="false"/>
    <fileSystem xfs="true"/><!-- 文件系統(tǒng) -->
    <filter start="false"><!-- -->
        <exclude expression="(.*)\.svn"></exclude>
        <exclude expression="(.*)\.gz"></exclude>
        <exclude expression="^info/*"></exclude>
        <exclude expression="^static/*"></exclude>
    </filter>
    <inotify><!-- 監(jiān)控的事件類型 -->
        <delete start="true"/>
        <createFolder start="true"/>
        <createFile start="true"/>
        <closeWrite start="true"/>
        <moveFrom start="true"/>
        <moveTo start="true"/>
        <attrib start="false"/>
        <modify start="false"/>
    </inotify>

    <sersync>
        <localpath watch="/data"><!-- 監(jiān)控的目錄 -->
            <remote ip="172.16.1.41" name="backup"/><!-- 主機(jī)名為backup的服務(wù)器的內(nèi)網(wǎng)ip以及配置的rsync的模塊名 -->
            <!--<remote ip="192.168.8.39" name="tongbu"/>-->
            <!--<remote ip="192.168.8.40" name="tongbu"/>-->
        </localpath>
        <rsync><!-- rsync的選項(xiàng) -->
            <commonParams params="-az"/>
            <auth start="true" users="rsync_backup" passwordfile="/etc/rsync.pass"/><!-- rsync配置創(chuàng)建的虛擬用戶和rsync客戶端的密碼文件 -->
            <userDefinedPort start="false" port="874"/><!-- port=874 -->
            <timeout start="false" time="100"/><!-- timeout=100 -->
            <ssh start="false"/>
        </rsync>
        <!-- 每60分鐘執(zhí)行一次同步 -->
        <failLog path="/tmp/rsync_fail_log.sh" timeToExecute="60"/><!--default every 60mins execute once-->
        <crontab start="false" schedule="600"><!--600mins-->
            <crontabfilter start="false">
                <exclude expression="*.php"></exclude>
                <exclude expression="info/*"></exclude>
            </crontabfilter>
        </crontab>
        <plugin start="false" name="command"/>
    </sersync>

    <plugin name="command">
        <param prefix="/bin/sh" suffix="" ignoreError="true"/>  <!--prefix /opt/tongbu/mmm.sh suffix-->
        <filter start="false">
            <include expression="(.*)\.php"/>
            <include expression="(.*)\.sh"/>
        </filter>
    </plugin>

    <plugin name="socket">
        <localpath watch="/opt/tongbu">
            <deshost ip="192.168.138.20" port="8009"/>
        </localpath>
    </plugin>
    <plugin name="refreshCDN">
        <localpath watch="/data0/htdocs/cms.xoyo.com/site/">
            <cdninfo domainname="ccms.chinacache.com" port="80" username="xxxx" passwd="xxxx"/>
            <sendurl base="http://pic.xoyo.com/cms"/>
            <regexurl regex="false" match="cms.xoyo.com/site([/a-zA-Z0-9]*).xoyo.com/images"/>
        </localpath>
    </plugin>
</head>
注意：需要修改以后的所有地方部脚，這邊都有備注想邦，你可以自行根據(jù)需求進(jìn)行修改。                       

具體配置原理可以參考下圖：

3）啟動sersync的守護(hù)進(jìn)程

#查看幫助說明
[root@nfs /usr/local/sersync]# ./sersync2 -h
set the system param
execute：echo 50000000 > /proc/sys/fs/inotify/max_user_watches
execute：echo 327679 > /proc/sys/fs/inotify/max_queued_events
parse the command param
_______________________________________________________
參數(shù)-d:啟用守護(hù)進(jìn)程模式
參數(shù)-r:在監(jiān)控前委刘，將監(jiān)控目錄與遠(yuǎn)程主機(jī)用rsync命令推送一遍
c參數(shù)-n: 指定開啟守護(hù)線程的數(shù)量丧没，默認(rèn)為10個
參數(shù)-o:指定配置文件，默認(rèn)使用confxml.xml文件
參數(shù)-m:單獨(dú)啟用其他模塊锡移，使用 -m refreshCDN 開啟刷新CDN模塊
參數(shù)-m:單獨(dú)啟用其他模塊呕童，使用 -m socket 開啟socket模塊
參數(shù)-m:單獨(dú)啟用其他模塊，使用 -m http 開啟http模塊
不加-m參數(shù)罩抗，則默認(rèn)執(zhí)行同步程序
________________________________________________________
#啟動sersync守護(hù)進(jìn)程
[root@nfs /usr/local/sersync]# ./sersync2 -dro confxml.xml

4）測試

測試前目錄查看結(jié)果如下：

六.lsyncd簡介與簡單實(shí)戰(zhàn)

1.lsyncd簡介

Lysncd 實(shí)際上是lua語言封裝了 inotify 和 rsync 工具柬采，采用了 Linux 內(nèi)核（2.6.13 及以后）里的 inotify 觸發(fā)機(jī)制，然后通過rsync去差異同步且警，達(dá)到實(shí)時的效果粉捻。我認(rèn)為它最令人稱道的特性是，完美解決了 inotify + rsync海量文件同步帶來的文件頻繁發(fā)送文件列表的問題 —— 通過時間延遲或累計(jì)觸發(fā)事件次數(shù)實(shí)現(xiàn)斑芜。另外肩刃，它的配置方式很簡單，lua本身就是一種配置語言杏头，可讀性非常強(qiáng)盈包。lsyncd也有多種工作模式可以選擇，本地目錄cp醇王，本地目錄rsync呢燥，遠(yuǎn)程目錄rsyncssh。
官方開源地址：https://github.com/axkibe/lsyncd
官方配置手冊：https://axkibe.github.io/lsyncd/

2.部署lsyncd

1)安裝lsyncd

[root@nfs ~]# yum -y install lsyncd

2)配置lsyncd同步配置

#這里在上面的基礎(chǔ)上在主機(jī)名為nfs新建一個目錄/data1寓娩，對應(yīng)在backup新建一個/backup1目錄叛氨，lsyncd.conf的配置文件如下：
[root@nfs ~]# vim /etc/lsyncd.conf
settings {
  logfile = "/var/log/lsyncd/lsyncd.log",
  statusFile = "/var/log/lsyncd/lsyncd.status",
  inotifyMode = "CloseWrite",
  maxProcesses = 8,
} 
sync {
  default.rsync,
  source = "/data",
  target = "rsync_backup@172.16.1.41::backup",
  delete = true,
  delay = 1,
  rsync = {
    binary = "/usr/bin/rsync",
    archive = true,
    compress = true,
   verbose = true,
    password_file = "/etc/rsync.pass",
    _extra = {"--bwlimit=200"}
  } 
} 

sync {
  default.rsync,
  source = "/data1",
  target = "rsync_backup@172.16.1.41::backup1",
  delete = true,
  exclude = { ".*" },
  delay = 1,
  rsync = {
    binary = "/usr/bin/rsync",
    archive = true,
    compress = true,
    verbose = true,
    password_file = "/etc/rsync.pass",
    _extra = {"--bwlimit=200"}
  } 
} 

lsync.conf配置文件詳解

settings

里面是全局設(shè)置，`--`開頭表示注釋根暑，下面是幾個常用選項(xiàng)說明：

*   `logfile` 定義日志文件
*   `stausFile` 定義狀態(tài)文件
*   `nodaemon=true` 表示不啟用守護(hù)模式力试，默認(rèn)
*   `statusInterval` 將lsyncd的狀態(tài)寫入上面的statusFile的間隔徙邻，默認(rèn)10秒
*   `inotifyMode` 指定inotify監(jiān)控的事件排嫌，默認(rèn)是`CloseWrite`，還可以是`Modify`或`CloseWrite or Modify`
*   `maxProcesses` 同步進(jìn)程的最大個數(shù)缰犁。假如同時有20個文件需要同步淳地，而`maxProcesses = 8`，則最大能看到有8個rysnc進(jìn)程
*   `maxDelays` 累計(jì)到多少所監(jiān)控的事件激活一次同步帅容，即使后面的`delay`延遲時間還未到

sync

里面是定義同步參數(shù)颇象，可以繼續(xù)使用`maxDelays`來重寫settings的全局變量。一般第一個參數(shù)指定`lsyncd`以什么模式運(yùn)行：`rsync`并徘、`rsyncssh`遣钳、`direct`三種模式：

*   `default.rsync` ：本地目錄間同步，使用rsync麦乞，也可以達(dá)到使用ssh形式的遠(yuǎn)程rsync效果蕴茴，或daemon方式連接遠(yuǎn)程rsyncd進(jìn)程；
    `default.direct` ：本地目錄間同步姐直，使用`cp`倦淀、`rm`等命令完成差異文件備份；
    `default.rsyncssh` ：同步到遠(yuǎn)程主機(jī)目錄声畏，rsync的ssh模式撞叽，需要使用key來認(rèn)證

*   `source` 同步的源目錄，使用絕對路徑。

*   `target` 定義目的地址.對應(yīng)不同的模式有幾種寫法：
    `/data` ：本地目錄同步愿棋，可用于`direct`和`rsync`模式
    `172.16.1.41:/backup` ：同步到遠(yuǎn)程服務(wù)器目錄科展，可用于`rsync`和`rsyncssh`模式，拼接的命令類似于`/usr/bin/rsync -ltsd --delete --include-from=- --exclude=* SOURCE TARGET`糠雨，剩下的就是rsync的內(nèi)容了辛润，比如指定username，免密碼同步
    `172.16.1.41::module` ：同步到遠(yuǎn)程服務(wù)器目錄见秤，用于`rsync`模式
    三種模式的示例會在后面給出砂竖。

*   `init` 這是一個優(yōu)化選項(xiàng)，當(dāng)`init = false`鹃答，只同步進(jìn)程啟動以后發(fā)生改動事件的文件乎澄，原有的目錄即使有差異也不會同步。默認(rèn)是`true`

*   `delay` 累計(jì)事件测摔，等待rsync同步延時時間置济，默認(rèn)15秒（最大累計(jì)到1000個不可合并的事件）。也就是15s內(nèi)監(jiān)控目錄下發(fā)生的改動锋八，會累積到一次rsync同步浙于，避免過于頻繁的同步。（可合并的意思是挟纱，15s內(nèi)兩次修改了同一文件羞酗，最后只同步最新的文件）

*   `excludeFrom` 排除選項(xiàng)，后面指定排除的列表文件紊服，如`excludeFrom = "/etc/lsyncd.exclude"`檀轨，如果是簡單的排除，可以使用`exclude = LIST`欺嗤。
    這里的排除規(guī)則寫法與原生rsync有點(diǎn)不同参萄，更為簡單：
    *   監(jiān)控路徑里的任何部分匹配到一個文本，都會被排除煎饼，例如`/bin/foo/bar`可以匹配規(guī)則`foo`
    *   如果規(guī)則以斜線`/`開頭讹挎，則從頭開始要匹配全部
    *   如果規(guī)則以`/`結(jié)尾，則要匹配監(jiān)控路徑的末尾
    *   `?`匹配任何字符吆玖，但不包括`/`
    *   `*`匹配0或多個字符筒溃，但不包括`/`
    *   `**`匹配0或多個字符，可以是`/`

*   `delete` 為了保持target與souce完全同步衰伯，Lsyncd默認(rèn)會`delete = true`來允許同步刪除铡羡。它除了`false`，還有`startup`意鲸、`running`值烦周，請參考 [Lsyncd 2.1.x ‖ Layer 4 Config ‖ Default Behavior](https://github.com/axkibe/lsyncd/wiki/Lsyncd%202.1.x%20%E2%80%96%20Layer%204%20Config%20%E2%80%96%20Default%20Behavior)尽爆。

rsync

（提示一下，`delete`和`exclude`本來都是rsync的選項(xiàng)读慎，上面是配置在sync中的漱贱，我想這樣做的原因是為了減少rsync的開銷）

*   `bwlimit` 限速，單位kb/s夭委，與rsync相同（這么重要的選項(xiàng)在文檔里竟然沒有標(biāo)出）
*   `compress` 壓縮傳輸默認(rèn)為`true`幅狮。在帶寬與cpu負(fù)載之間權(quán)衡，本地目錄同步可以考慮把它設(shè)為`false`
*   `perms` 默認(rèn)保留文件權(quán)限株灸。
*   其它rsync的選項(xiàng)

其它還有rsyncssh模式獨(dú)有的配置項(xiàng)崇摄，如`host`、`targetdir`慌烧、`rsync_path`逐抑、`password_file`，見后文示例屹蚊。`rsyncOps={"-avz","--delete"}`這樣的寫法在2.1.*版本已經(jīng)不支持厕氨。

`lsyncd.conf`可以有多個`sync`，各自的source汹粤，各自的target命斧，各自的模式，互不影響嘱兼。

3)啟動lsyncd

[root@nfs ~]# systemctl start lsyncd

4)測試

這里在/data目錄下創(chuàng)建一個2.txt,在/data1目錄下創(chuàng)建一個1.txt国葬，之后分別看一下backup主機(jī)同步的二目錄下是否存在該目錄，注意:新加模塊需要重啟rsync這個服務(wù)遭京。
測試結(jié)果如圖：

其他模式你可以參考官方配置進(jìn)行測試胃惜，這里不再過多說明泞莉。