day35 sersync實(shí)時(shí)同步

實(shí)時(shí)同步概述
  • 實(shí)時(shí)同步概念說明
    實(shí)時(shí)同步的概念:是一種只要當(dāng)前目錄發(fā)生變化則會觸發(fā)一個(gè)事件打颤,事件出發(fā)后會將變化的目錄同步至遠(yuǎn)程服務(wù)器勋颖。

  • 實(shí)時(shí)同步的作用:
    保證數(shù)據(jù)的連續(xù)性肺缕;
    減少人力維護(hù)成本努潘。

  • 數(shù)據(jù)備份的方法:
    定時(shí)任務(wù)備份:主要是內(nèi)部人員備份數(shù)據(jù),備份周期最短是1分鐘锋边。
    實(shí)時(shí)任務(wù)備份:主要是外部人員備份數(shù)據(jù),一般是用戶保存數(shù)據(jù)编曼,當(dāng)用戶在網(wǎng)站提交保存數(shù)據(jù)時(shí)豆巨,沒有同步等待時(shí)間。

  • 實(shí)時(shí)同步的原理:
    1.監(jiān)控存儲服務(wù)器掐场,查看數(shù)據(jù)的信息變化往扔,主要用到的工具為inotify;
    2.利用同步傳輸數(shù)據(jù)軟件熊户,將變化的數(shù)據(jù)增量傳輸給遠(yuǎn)程服務(wù)器萍膛;
    3.實(shí)現(xiàn)實(shí)時(shí)同步。

實(shí)時(shí)同步的工具:sersync+rsync嚷堡,inotify+rsync
Inotify是一個(gè)通知接口蝗罗,用來監(jiān)控文件系統(tǒng)的各種變化,如果文件存取,刪除串塑,移動沼琉。可以非常方便地實(shí)現(xiàn)文件異動告警拟赊,增量備份功能刺桃,并針對目錄或文件的變化及時(shí)作出響應(yīng)。Inotify+rsync可以實(shí)出發(fā)式實(shí)時(shí)同步增量備份吸祟。
inotify的作用:監(jiān)控目錄中數(shù)據(jù)信息變化瑟慈;
sersync是國人基于rsync+inotify-tools開發(fā)的工具,不僅保留了inotify的優(yōu)點(diǎn)同時(shí)還強(qiáng)化了實(shí)時(shí)監(jiān)控屋匕,文件過濾葛碧,簡化配置等功能,幫助用戶提高了運(yùn)行效率过吻,節(jié)省時(shí)間和網(wǎng)絡(luò)資源进泼。

sersync服務(wù)安裝部署
  • 第一步:安裝軟件,將軟件推送到指定的目錄
[root@nfs01 ~]# yum install rsync inotify -y
[root@nfs01-server ~]# cd /server/tools/
[root@nfs01-server tools]# ls
sersync_installdir_64bit.zip
[root@nfs01-server tools]# mv sersync_installdir_64bit.zip  /usr/local/
[root@nfs01-server tools]# unzip /usr/local/sersync_installdir_64bit.zip 
Archive:  /usr/local/sersync_installdir_64bit.zip
   creating: sersync_installdir_64bit/
   creating: sersync_installdir_64bit/sersync/
   creating: sersync_installdir_64bit/sersync/bin/
  inflating: sersync_installdir_64bit/sersync/bin/sersync  
   creating: sersync_installdir_64bit/sersync/conf/
  inflating: sersync_installdir_64bit/sersync/conf/confxml.xml  
   creating: sersync_installdir_64bit/sersync/logs/
  • 第二步:修改配置文件信息
<inotify>
 13         <delete start="true"/>
 14         <createFolder start="true"/>
 15         <createFile start="false"/>
 16         <closeWrite start="true"/>
 17         <moveFrom start="true"/>
 18         <moveTo start="true"/>
 19         <attrib start="false"/>
 20         <modify start="false"/>
 21     </inotify>
 <sersync>
 24         <localpath watch="/backup"> ## 目錄信息
 25           <remote ip="172.16.1.41" name="backup"/> ## 備份服務(wù)器IP纤虽,backup模塊信息
 26             <!--<remote ip="192.168.8.39" name="tongbu"/>-->
 27             <!--<remote ip="192.168.8.40" name="tongbu"/>-->
 28         </localpath>
 29         <rsync>
 30             <commonParams params="-avz"/> ## 選項(xiàng)參數(shù)乳绕,默認(rèn)有-delete
 31             <auth start="true" users="rsync_backup" passwordfile="/etc/rsync.password"/>                 ## 開啟認(rèn)證用戶功能   
 32             <userDefinedPort start="false" port="874"/><!-- port=874 -->
 33             <timeout start="false" time="100"/><!-- timeout=100 -->
 34             <ssh start="false"/>
 35         </rsync>

[root@nfs01-server local]# ll /usr/local/sersync_installdir_64bit/sersync/bin/sersync        
-rwxr--r-- 1 root root 1810128 Oct 26  2011 /usr/local/sersync_installdir_64bit/sersync/bin/sersync

[root@nfs01-server bin]# ./sersync -dro  /usr/local/sersync_installdir_64bit/sersync/conf/confxml.xml 
set the system param
execute:echo 50000000 > /proc/sys/fs/inotify/max_user_watches
execute:echo 327679 > /proc/sys/fs/inotify/max_queued_events
parse the command param ## 命令參數(shù)解釋說明
option: -d      run as a daemon
option: -r      rsync all the local files to the remote servers before the sersync work
option: -o      config xml name:  /usr/local/sersync_installdir_64bit/sersync/conf/confxml.xml
daemon thread num: 10
parse xml config file
host ip : localhost     host port: 8008
daemon start,sersync run behind the console 
use rsync password-file :
user is rsync_backup
passwordfile is         /etc/rsync.password
config xml parse success
please set /etc/rsyncd.conf max connections=0 Manually
sersync working thread 12  = 1(primary thread) + 1(fail retry thread) + 10(daemon sub threads) 
Max threads numbers is: 22 = 12(Thread pool nums) + 10(Sub threads)
please according your cpu 逼纸,use -n param to adjust the cpu rate
------------------------------------------
rsync the directory recursivly to the remote servers once
working please wait...
execute command: cd /backup && rsync -avz -R --delete ./ rsync_backup@172.16.1.41::backup --password-file=/etc/rsync.password >/dev/null 2>&1 
run the sersync: 
watch path is: /backup ## 成功Q蟠搿!
實(shí)現(xiàn)實(shí)時(shí)同步的腳本

[root@nfs01 scripts]# cat sersync.sh

#!/bin/bash
#1. jiankong date
inotifywait -mrq /backup --format "%w%f" -e create,delete,close_write,move | while read line

#2. push data
do
rsync -avz --delete /backup rsync_backup@172.16.1.41::backup --password-file=/etc/rsync.password
done
?著作權(quán)歸作者所有,轉(zhuǎn)載或內(nèi)容合作請聯(lián)系作者
  • 序言:七十年代末杰刽,一起剝皮案震驚了整個(gè)濱河市菠发,隨后出現(xiàn)的幾起案子,更是在濱河造成了極大的恐慌贺嫂,老刑警劉巖滓鸠,帶你破解...
    沈念sama閱讀 219,589評論 6 508
  • 序言:濱河連續(xù)發(fā)生了三起死亡事件,死亡現(xiàn)場離奇詭異第喳,居然都是意外死亡糜俗,警方通過查閱死者的電腦和手機(jī),發(fā)現(xiàn)死者居然都...
    沈念sama閱讀 93,615評論 3 396
  • 文/潘曉璐 我一進(jìn)店門曲饱,熙熙樓的掌柜王于貴愁眉苦臉地迎上來吩跋,“玉大人,你說我怎么就攤上這事渔工⌒颗ィ” “怎么了?”我有些...
    開封第一講書人閱讀 165,933評論 0 356
  • 文/不壞的土叔 我叫張陵引矩,是天一觀的道長梁丘。 經(jīng)常有香客問我侵浸,道長,這世上最難降的妖魔是什么氛谜? 我笑而不...
    開封第一講書人閱讀 58,976評論 1 295
  • 正文 為了忘掉前任掏觉,我火速辦了婚禮,結(jié)果婚禮上值漫,老公的妹妹穿的比我還像新娘澳腹。我一直安慰自己,他們只是感情好杨何,可當(dāng)我...
    茶點(diǎn)故事閱讀 67,999評論 6 393
  • 文/花漫 我一把揭開白布酱塔。 她就那樣靜靜地躺著,像睡著了一般危虱。 火紅的嫁衣襯著肌膚如雪羊娃。 梳的紋絲不亂的頭發(fā)上,一...
    開封第一講書人閱讀 51,775評論 1 307
  • 那天埃跷,我揣著相機(jī)與錄音蕊玷,去河邊找鬼。 笑死弥雹,一個(gè)胖子當(dāng)著我的面吹牛垃帅,可吹牛的內(nèi)容都是我干的。 我是一名探鬼主播剪勿,決...
    沈念sama閱讀 40,474評論 3 420
  • 文/蒼蘭香墨 我猛地睜開眼贸诚,長吁一口氣:“原來是場噩夢啊……” “哼!你這毒婦竟也來了窗宦?” 一聲冷哼從身側(cè)響起赦颇,我...
    開封第一講書人閱讀 39,359評論 0 276
  • 序言:老撾萬榮一對情侶失蹤二鳄,失蹤者是張志新(化名)和其女友劉穎赴涵,沒想到半個(gè)月后,有當(dāng)?shù)厝嗽跇淞掷锇l(fā)現(xiàn)了一具尸體订讼,經(jīng)...
    沈念sama閱讀 45,854評論 1 317
  • 正文 獨(dú)居荒郊野嶺守林人離奇死亡髓窜,尸身上長有42處帶血的膿包…… 初始之章·張勛 以下內(nèi)容為張勛視角 年9月15日...
    茶點(diǎn)故事閱讀 38,007評論 3 338
  • 正文 我和宋清朗相戀三年,在試婚紗的時(shí)候發(fā)現(xiàn)自己被綠了欺殿。 大學(xué)時(shí)的朋友給我發(fā)了我未婚夫和他白月光在一起吃飯的照片寄纵。...
    茶點(diǎn)故事閱讀 40,146評論 1 351
  • 序言:一個(gè)原本活蹦亂跳的男人離奇死亡,死狀恐怖脖苏,靈堂內(nèi)的尸體忽然破棺而出程拭,到底是詐尸還是另有隱情,我是刑警寧澤棍潘,帶...
    沈念sama閱讀 35,826評論 5 346
  • 正文 年R本政府宣布恃鞋,位于F島的核電站崖媚,受9級特大地震影響,放射性物質(zhì)發(fā)生泄漏恤浪。R本人自食惡果不足惜畅哑,卻給世界環(huán)境...
    茶點(diǎn)故事閱讀 41,484評論 3 331
  • 文/蒙蒙 一、第九天 我趴在偏房一處隱蔽的房頂上張望水由。 院中可真熱鬧荠呐,春花似錦、人聲如沸砂客。這莊子的主人今日做“春日...
    開封第一講書人閱讀 32,029評論 0 22
  • 文/蒼蘭香墨 我抬頭看了看天上的太陽鞭盟。三九已至圾结,卻和暖如春,著一層夾襖步出監(jiān)牢的瞬間齿诉,已是汗流浹背筝野。 一陣腳步聲響...
    開封第一講書人閱讀 33,153評論 1 272
  • 我被黑心中介騙來泰國打工, 沒想到剛下飛機(jī)就差點(diǎn)兒被人妖公主榨干…… 1. 我叫王不留粤剧,地道東北人歇竟。 一個(gè)月前我還...
    沈念sama閱讀 48,420評論 3 373
  • 正文 我出身青樓,卻偏偏與公主長得像抵恋,于是被迫代替她去往敵國和親焕议。 傳聞我的和親對象是個(gè)殘疾皇子,可洞房花燭夜當(dāng)晚...
    茶點(diǎn)故事閱讀 45,107評論 2 356

推薦閱讀更多精彩內(nèi)容