day32

rsync復(fù)制軟件應(yīng)用與實(shí)踐

what 什么是金句?

why 為什么要用籍嘹?

where

1方库、什么是rsync?

  rsync结序,Rsync英文全稱為Remote synchronization   

縮寫rsync

是開源、高速的纵潦、可實(shí)現(xiàn)本地以及遠(yuǎn)程徐鹤,全量以及增量的數(shù)據(jù)復(fù)制(拷貝)工具。

官方鏈接資料:

http://www.samba.org/ftp/rsync/rsync.html

2邀层、全量和增量區(qū)別

全量復(fù)制:

[root@nfs01 ~]# cp -a /etc/ /opt/

[root@nfs01 ~]# \cp -a /etc/ /opt

[root@nfs01 ~]# touch /etc/oldboy.txt

[root@nfs01 ~]# \cp -a /etc/ /opt/

增量復(fù)制:

只復(fù)制oldboy.txt

  3返敬、rsync的作用

  工作中需要定時(shí)/實(shí)時(shí)數(shù)據(jù)備份。本地服務(wù)器目錄寥院、不同機(jī)器劲赠、

  不同機(jī)房之間的數(shù)據(jù)備份。都可以用rsync完成。

4凛澎、rsync功能特性

  q  支持拷貝普通文件與特殊文件霹肝,如鏈接文件,設(shè)備文件等预厌。

q  支持排除指定文件或目錄同步的功能阿迈,相當(dāng)于打包命令tar的排除功能。

  q  可以做到保持原文件或目錄的權(quán)限轧叽、時(shí)間苗沧、軟硬鏈接、屬主炭晒、組等所有屬性均不改變待逞。

q  可實(shí)現(xiàn)增量復(fù)制,既只復(fù)制發(fā)生變化的數(shù)據(jù)网严,因此數(shù)據(jù)傳輸效率很高识樱。

q  可以使用rcp,rsh,ssh等方式來配合進(jìn)行隧道加密傳輸文件(rsync本身不對數(shù)據(jù)加密)。

q  可以通過socket(進(jìn)程方式)傳輸文件和數(shù)據(jù)(服務(wù)端和客戶端)*震束。

  q        支持匿名或認(rèn)證(無需系統(tǒng)用戶)進(jìn)程模式傳輸怜庸,安全的進(jìn)行數(shù)據(jù)備份  及鏡像

5、增量復(fù)制原理

使用 quick check算法垢村,只對增量的部分復(fù)制割疾,根據(jù)大小屬性的變化進(jìn)行復(fù)制。

2.x比對差異后復(fù)制嘉栓,3.x一邊比對一邊復(fù)制宏榕。

https://coolshell.cn/articles/7425.html

6、rsync三種工作模式介紹

1)本地(local)

   rsync就是一個(gè)命令

rsync     [OPTION...]        SRC...      [DEST]rsync命令  參數(shù)選項(xiàng)  [源目錄或文件]

目的目錄或文件

命令操作:

rsync命令

a.把數(shù)據(jù)從一個(gè)地方復(fù)制到另一個(gè)地方(僅在一臺(tái)機(jī)器增量),相當(dāng)于cp侵佃。

b.通過加參數(shù)實(shí)現(xiàn)刪除文件和清空文件內(nèi)容的功能麻昼,相當(dāng)于rm命令。

c.查看屬性信息功能馋辈,相當(dāng)于ls抚芦。

實(shí)踐:

基礎(chǔ)不牢,地動(dòng)山搖首有⊙嗬————老男孩

聽話出活,跑通在變通井联〔泛荆————老男孩

a.拷貝實(shí)踐

[root@backup ~]# ls /opt

[root@backup ~]# rsync /etc/hosts /opt

[root@backup ~]# ls /opt

hosts

[root@backup ~]# \cp /etc/hosts /opt

保持屬性:

[root@backup ~]# rsync -zrtopg /etc/hosts /opt/

[root@backup ~]# ls -lhi /etc/hosts /opt/hosts

16829878 -rw-r--r--. 1 root root 332 4月 12 11:24 /etc/hosts71373 -rw-r--r-- 1 root root 332 4月 12 11:24 /opt/hosts

b.刪除實(shí)踐

刪除文件內(nèi)容:

[root@backup ~]# touch /null.txt #空文件

[root@backup ~]# cat /opt/hosts

127.0.0.1 localhost localhost.localdomain

localhost4 localhost4.localdomain4::1 localhost localhost.localdomain

localhost6 localhost6.localdomain6

172.16.1.5 lb01

172.16.1.6 lb02

172.16.1.7 web01

172.16.1.8 web02

172.16.1.9 web03

172.16.1.31 nfs01

172.16.1.41 backup

172.16.1.51 db01 db01.etiantian.org

172.16.1.61 m01

[root@backup ~]# rsync --delete /null.txt

/opt/hosts #讓前面null.txt和后面hosts一樣

rsync: --delete does not work without --

recursive (-r) or --dirs (-d).

rsync error: syntax or usage error (code 1) at

main.c(1567) [client=3.1.2]

[root@backup ~]# rsync -r --delete /null.txt

/opt/hosts

[root@backup ~]# cat /opt/hosts

刪除目錄下所有文件:

[root@backup ~]# mkdir /null

[root@backup ~]# rsync -r --delete /null/ /opt/ #讓后面opt和前面null目錄內(nèi)容保持一致

[root@backup ~]# ls /opt/

c.查看屬性

[root@backup ~]# rsync /etc/hosts

-rw-r--r-- 332 2019/04/12 11:24:41 hosts

2)遠(yuǎn)程Shell模式

借助類似ssh隧道傳輸數(shù)據(jù),適合不同的機(jī)器之間復(fù)制烙常。

異地拷貝轴捎,相當(dāng)于scp鹤盒,區(qū)別scp是遠(yuǎn)程全量拷貝)

拉門 推門 思考:

pull,拉:從遠(yuǎn)端拉取到本地。

語法:

rsync      [OPTION...]  [USER@]HOST:SRC...  [DEST]

rsync命令  參數(shù)選項(xiàng)  [認(rèn)證用戶]@[主機(jī)地址]:[源路徑]   本地路徑

語法:

push,推:從本地推到遠(yuǎn)端侦副。

rsync  [OPTION...]   SRC...  [USER@]HOST:[DEST]        

rsync命令  參數(shù)選項(xiàng)  本地路徑 [認(rèn)證用戶]@[主機(jī)地址]:[目標(biāo)路徑]

push實(shí)踐:

[root@nfs01 ~]# rsync -avz /etc/hosts root@172.16.1.41:/opt/ #加密傳輸侦锯。

The authenticity of host '172.16.1.41

(172.16.1.41)' can't be established.

ECDSA key fingerprint is

SHA256:qZSBkrmOv7xO/63qOU1uLXkPyNVHdkqvrNAcAmXq

NEk.

ECDSA key fingerprint is

MD5:23:d0:cb:a9:f4:7c:0b:eb:2d:07:00:e1:a3:12:d

8:33.

Are you sure you want to continue connecting

(yes/no)? yes

Warning: Permanently added '172.16.1.41'

(ECDSA) to the list of known hosts.

root@172.16.1.41's password:

sending incremental file list

hosts

sent 219 bytes received 35 bytes 14.51

bytes/sec

total size is 332 speedup is 1.31

檢查:

[root@backup ~]# cd /opt/

[root@backup /opt]# ls

hosts

rsync -avz /etc/hosts root@172.16.1.41:/opt/

rsync -avz /etc/hosts -e "ssh -p 22"

root@172.16.1.41:/opt/

上述命令是等價(jià)的。-e 指定通道 ssh ssh服務(wù)連接

客戶端 -p 22指定22端口秦驯。

[root@nfs01 ~]# rsync -avz /etc/hosts -e "ssh

-p 22" root@172.16.1.41:/opt/

root@172.16.1.41's password:

sending incremental file list

sent 44 bytes received 12 bytes 22.40

bytes/sec

total size is 332 speedup is 5.93

拉的命令:

rsync -avz root@172.16.1.41:/opt/hosts /opt

rsync -avz -e "ssh -p 22"

root@172.16.1.41:/opt/hosts /opt

推拉:

a.參照物尺碰,執(zhí)行命令的機(jī)器

b.root@172.16.1.41 使用的用戶和主機(jī),就用主機(jī)和

用戶的密碼译隘。

強(qiáng)調(diào)一個(gè)重點(diǎn):適合rsync

null和null/ 區(qū)別亲桥,null是目錄和目錄下的內(nèi)容,

null/只是目錄下的內(nèi)容固耘,不含本身题篷。

3)rsync守護(hù)進(jìn)程模式

首先要搭建rsync服務(wù)端(要有守護(hù)進(jìn)程),然后才能在

客戶端實(shí)現(xiàn)推拉數(shù)據(jù)厅目。

企業(yè)運(yùn)維的重要模式番枚,重點(diǎn)講。

客戶端語法暫時(shí)不講损敷。

rsync服務(wù)模式:*****開啟后臺(tái)進(jìn)程葫笼,接受別人訪問

7拗馒、rsync命令參數(shù)

rsync命令參數(shù):
-v, --verbose  顯示輸出過程
  -z, --compress 壓縮
  -a, --archive  多參數(shù)集合(-rtopgDl)
-r, --recursive 遞歸
-t, --times    保持修改時(shí)間屬性
-o, --owner    保持屬主不變
-p, --perms    保持權(quán)限不變
-g, --group    保持用戶組不變
-l, --links    保持拷貝軟連接
-q, --quiet    安靜的拷貝
--bwlimit=KBPS 限制I/O帶寬渔欢,KBytes per second。
--delete       刪除
--exclude      排除
--exclude-from 從文件中排除
企業(yè)常用參數(shù)組合:-avz或者-vzrtopg
image.png

8瘟忱、rsync守護(hù)進(jìn)程模式應(yīng)用實(shí)踐

(1)以下操作都是在backup服務(wù)器

1)安裝

[root@backup ~]# rsync --versionrsync  version 3.1.2  protocol version 31

[root@backup ~]# yum install rsync(不需要)

2)配置配置文件/etc/rsyncd.conf
備份
cp /etc/rsyncd.conf{,.ori}
cat>/etc/rsyncd.conf<<EOF
#rsync_config_______________start
#created by oldboy
#site: http://www.oldboyedu.com
uid = rsync
gid = rsync
use chroot = no
max connections = 200
timeout = 600
pid file = /var/run/rsyncd.pid
lock file = /var/run/rsync.lock
log file = /var/log/rsyncd.log
ignore errors
read only = false
list = false
hosts allow = 172.16.1.0/24
hosts deny = 0.0.0.0/32
auth users = rsync_backup
secrets file = /etc/rsync.password
[backup]
comment = welcome to oldboyedu backup!
path = /backup/
EOF

man rsync 查命令的參數(shù)

man rsyncd.conf 查配置參數(shù)

https://www.samba.org/ftp/rsync/rsync.html

學(xué)會(huì)獲取知識(shí)的源頭∩淮保——老男孩

創(chuàng)建用戶和備份目錄

[root@backup ~]# useradd rsync

[root@backup ~]# id rsync

uid=1001(rsync) gid=1001(rsync) 組=1001(rsync)

[root@backup ~]# mkdir -p /backup

[root@backup ~]# chown -R rsync.rsync /backup/

[root@backup ~]# ls -ld /backup/

drwxr-xr-x 2 rsync rsync 6 4月 15 12:12 /backup/

3)啟動(dòng)和檢查
 rsync --daemon(c6及以前)
systemctl start rsyncd------》開啟
systemctl enable rsyncd
systemctl status rsyncd ----->檢查
[root@backup ~]# ps -ef|grep sync|grep -v grep  #檢查進(jìn)程

root 7521 1 0 11:39 ?

00:00:00 /usr/bin/rsync --daemon --no-detach

[root@backup ~]# netstat -lntup|grep 873 #檢查端口

tcp 0 0 0.0.0.0:873

0.0.0.0:* LISTEN 7521/rsync

tcp6 0 0 :::873 :::* LISTEN 7521/rsync

[root@backup ~]# lsof -i :873 #檢查端口

COMMAND PID USER FD TYPE DEVICE SIZE/OFF

NODE NAME

rsync 7521 root 3u IPv4 41439 0t0

TCP *:rsync (LISTEN)

rsync 7521 root 5u IPv6 41440 0t0

TCP *:rsync (LISTEN)

面試題:如何查看某端口對應(yīng)什么服務(wù)访诱?答案就是上面兩個(gè)。

ldof -i:873

ps -ef|grep sync|grep -v grep

4)配置密碼文件

[root@backup ~]# echo "rsync_backup:oldboy" > /etc/rsync.password
[root@backup ~]# chmod 600 /etc/rsync.password
[root@backup ~]# cat /etc/rsync.password
rsync_backup:oldboy

[root@backup ~]# ls -l /etc/rsync.password

-rw------- 1 root root 20 4月 15 11:51

/etc/rsync.password

rsync服務(wù)端配置完成韩肝。

(2)以下操作都是在客戶端服務(wù)器

以下方法2選1
方法1:認(rèn)證密碼文件
[root@nfs01 ~]# echo "oldboy" > /etc/rsync.password
[root@nfs01 ~]# chmod 600 /etc/rsync.password
[root@nfs01 ~]# cat /etc/rsync.password
oldboy
[root@nfs01 ~]# ls -l /etc/rsync.password
-rw------- 1 root root 7 4月  15 11:55
/etc/rsync.password

方法2:

[root@nfs01 ~]# echo ' export RSYNC_PASSWORD=oldboy' >>/etc/bashrc
[root@nfs01 ~]# tail -1 /etc/bashrc
export RSYNC_PASSWORD=oldboy
[root@nfs01 ~]# . /etc/bashrc
[root@nfs01 ~]# echo $RSYNC_PASSWORD
oldboy
rsync客戶端 nfs01 配置完成

(3)守護(hù)進(jìn)程模式触菜,客戶端rsync的命令語法:
配置服務(wù)器端守護(hù)進(jìn)程,實(shí)現(xiàn)數(shù)據(jù)傳輸:
1哀峻、服務(wù)器端守護(hù)進(jìn)程涡相。2、客戶端執(zhí)行命令剩蟀。
拉門催蝗、推門 思考:
pull,拉:從遠(yuǎn)端拉取到本地。
語法1(常用):
rsync      [OPTION...]  [USER@]HOST::SRC...  [DEST]
rsync命令  參數(shù)選項(xiàng)  [虛擬用戶]@[主機(jī)地址]::[模塊名]       本地路徑

語法2:

rsync      [OPTION...]  rsync://[USER@]HOST::SRC...                [DEST]
rsync命令  參數(shù)選項(xiàng)  rsync://[虛擬用戶]@[主機(jī)地址]/[模塊名]   本地路徑
push,推:從本地推到遠(yuǎn)端育特。
語法1(常用):    rsync      [OPTION...]    [DEST]        [USER@]HOST::SRC...                 rsync命令  參數(shù)選項(xiàng)    本地路徑          [虛擬用戶]@[主機(jī)地址]::[模塊名]       

語法2:

rsync      [OPTION...]     [DEST]  rsync://[USER@]HOST::SRC...               rsync命令  參數(shù)選項(xiàng)    本地路徑       rsync://[虛擬用戶]@[主機(jī)地址]/[模塊名]

(4)測試成果

錯(cuò)誤1:

[root@nfs01 ~]# rsync -avz /etc/hosts rsync_backup@172.16.1.41::backup --password-file=/etc/rsync.password

@ERROR: invalid uid rsync

rsync error: error starting client-server

protocol (code 5) at main.c(1648)

[sender=3.1.2]

解答:

[root@backup ~]# useradd rsync

[root@backup ~]# id rsync

uid=1001(rsync) gid=1001(rsync) 組=1001(rsync)

[root@backup ~]# mkdir -p /backup

[root@backup ~]# chown -R rsync.rsync /backup/

[root@backup ~]# ls -ld /backup/

drwxr-xr-x 2 rsync rsync 6 4月 15 12:12

/backup/

錯(cuò)誤2:

[root@nfs01 ~]# rsync -avz /etc/hosts rsync_backup@172.16.1.41::backup --password-file=/etc/rsync.password

sending incremental file list

hosts

rsync: chgrp ".hosts.YDuTjO" (in backup)

failed: Operation not permitted (1)

sent 223 bytes received 124 bytes 694.00

bytes/sec

total size is 332 speedup is 0.96

rsync error: some files/attrs were not

transferred (see previous errors) (code 23) at

main.c(1178) [sender=3.1.2]

解答:增加如下參數(shù)到/etc/rsyncd.conf

fake super = yes #不用root用戶也可以存儲(chǔ)文件的完整屬性丙号。

This allows the full attributes of a file to be stored without having to have the daemon

actually running as root.

[root@backup ~]# grep fake /etc/rsyncd.conf

fake super = yes

改完配置,要重啟服務(wù):

[root@backup ~]# systemctl restart rsyncd

在測試:成功

[root@nfs01 ~]# rsync -avz /etc/hosts rsync_backup@172.16.1.41::backup --password-

file=/etc/rsync.password

sending incremental file list

hostssent 89 bytes received 49 bytes 276.00 bytes/sectotal size is 332 speedup is 2.41

rsync -avz /etc rsync_backup@172.16.1.41::backup --password-file=/etc/rsync.password

服務(wù)端檢查:

[root@backup ~]# ls /backup/

hosts

[root@backup ~]# ls /backup/

etc hosts

如果客戶端按照環(huán)境變量的方式配置,則可以忽略--

password-file=/etc/rsync.password參數(shù)犬缨。

[root@nfs01 ~]# rsync -avz /etc rsync_backup@172.16.1.41::backupsending incremental file list

sent 52,071 bytes received 644 bytes 105,430.00 bytes/sec

total size is 31,244,350 speedup is 592.70

測試增量

[root@nfs01 ~]# touch /etc/oldboy.txt

[root@nfs01 ~]# rsync -avz /etc rsync_backup@172.16.1.41::backup

sending incremental file list

etc/oldboy.txtsent 52,098 bytes received 655 bytes 105,506.00 bytes/sec

total size is 31,244,350 speedup is 592.28

(OVER)

?著作權(quán)歸作者所有,轉(zhuǎn)載或內(nèi)容合作請聯(lián)系作者
  • 序言:七十年代末喳魏,一起剝皮案震驚了整個(gè)濱河市,隨后出現(xiàn)的幾起案子怀薛,更是在濱河造成了極大的恐慌刺彩,老刑警劉巖,帶你破解...
    沈念sama閱讀 218,546評論 6 507
  • 序言:濱河連續(xù)發(fā)生了三起死亡事件枝恋,死亡現(xiàn)場離奇詭異创倔,居然都是意外死亡,警方通過查閱死者的電腦和手機(jī)鼓择,發(fā)現(xiàn)死者居然都...
    沈念sama閱讀 93,224評論 3 395
  • 文/潘曉璐 我一進(jìn)店門三幻,熙熙樓的掌柜王于貴愁眉苦臉地迎上來,“玉大人呐能,你說我怎么就攤上這事念搬。” “怎么了摆出?”我有些...
    開封第一講書人閱讀 164,911評論 0 354
  • 文/不壞的土叔 我叫張陵朗徊,是天一觀的道長。 經(jīng)常有香客問我偎漫,道長爷恳,這世上最難降的妖魔是什么? 我笑而不...
    開封第一講書人閱讀 58,737評論 1 294
  • 正文 為了忘掉前任象踊,我火速辦了婚禮温亲,結(jié)果婚禮上,老公的妹妹穿的比我還像新娘杯矩。我一直安慰自己栈虚,他們只是感情好,可當(dāng)我...
    茶點(diǎn)故事閱讀 67,753評論 6 392
  • 文/花漫 我一把揭開白布史隆。 她就那樣靜靜地躺著魂务,像睡著了一般。 火紅的嫁衣襯著肌膚如雪泌射。 梳的紋絲不亂的頭發(fā)上粘姜,一...
    開封第一講書人閱讀 51,598評論 1 305
  • 那天,我揣著相機(jī)與錄音熔酷,去河邊找鬼孤紧。 笑死,一個(gè)胖子當(dāng)著我的面吹牛纯陨,可吹牛的內(nèi)容都是我干的坛芽。 我是一名探鬼主播留储,決...
    沈念sama閱讀 40,338評論 3 418
  • 文/蒼蘭香墨 我猛地睜開眼,長吁一口氣:“原來是場噩夢啊……” “哼咙轩!你這毒婦竟也來了获讳?” 一聲冷哼從身側(cè)響起,我...
    開封第一講書人閱讀 39,249評論 0 276
  • 序言:老撾萬榮一對情侶失蹤活喊,失蹤者是張志新(化名)和其女友劉穎丐膝,沒想到半個(gè)月后,有當(dāng)?shù)厝嗽跇淞掷锇l(fā)現(xiàn)了一具尸體钾菊,經(jīng)...
    沈念sama閱讀 45,696評論 1 314
  • 正文 獨(dú)居荒郊野嶺守林人離奇死亡帅矗,尸身上長有42處帶血的膿包…… 初始之章·張勛 以下內(nèi)容為張勛視角 年9月15日...
    茶點(diǎn)故事閱讀 37,888評論 3 336
  • 正文 我和宋清朗相戀三年,在試婚紗的時(shí)候發(fā)現(xiàn)自己被綠了煞烫。 大學(xué)時(shí)的朋友給我發(fā)了我未婚夫和他白月光在一起吃飯的照片浑此。...
    茶點(diǎn)故事閱讀 40,013評論 1 348
  • 序言:一個(gè)原本活蹦亂跳的男人離奇死亡,死狀恐怖滞详,靈堂內(nèi)的尸體忽然破棺而出凛俱,到底是詐尸還是另有隱情,我是刑警寧澤料饥,帶...
    沈念sama閱讀 35,731評論 5 346
  • 正文 年R本政府宣布蒲犬,位于F島的核電站,受9級(jí)特大地震影響岸啡,放射性物質(zhì)發(fā)生泄漏原叮。R本人自食惡果不足惜,卻給世界環(huán)境...
    茶點(diǎn)故事閱讀 41,348評論 3 330
  • 文/蒙蒙 一巡蘸、第九天 我趴在偏房一處隱蔽的房頂上張望奋隶。 院中可真熱鬧,春花似錦悦荒、人聲如沸达布。這莊子的主人今日做“春日...
    開封第一講書人閱讀 31,929評論 0 22
  • 文/蒼蘭香墨 我抬頭看了看天上的太陽。三九已至躺苦,卻和暖如春身腻,著一層夾襖步出監(jiān)牢的瞬間,已是汗流浹背匹厘。 一陣腳步聲響...
    開封第一講書人閱讀 33,048評論 1 270
  • 我被黑心中介騙來泰國打工嘀趟, 沒想到剛下飛機(jī)就差點(diǎn)兒被人妖公主榨干…… 1. 我叫王不留,地道東北人愈诚。 一個(gè)月前我還...
    沈念sama閱讀 48,203評論 3 370
  • 正文 我出身青樓她按,卻偏偏與公主長得像牛隅,于是被迫代替她去往敵國和親。 傳聞我的和親對象是個(gè)殘疾皇子酌泰,可洞房花燭夜當(dāng)晚...
    茶點(diǎn)故事閱讀 44,960評論 2 355

推薦閱讀更多精彩內(nèi)容