大數(shù)據(jù)集群 xsync文件同步腳本

1 簡介

在大數(shù)據(jù)集群部署過程中抓狭,往往需要同步文件和配置到多臺機(jī)器上枕荞,如果一臺臺的機(jī)器去復(fù)制,效率太低還容易出錯碎连。我們可以使用腳本的形式灰羽,批量同步文件,這里使用async進(jìn)行文件同步破花。

2 配置集群hostname

2.1 配置hostname文件

1 服務(wù)器hadoop01
[root@localhost ~]# echo hostname1 > /etc/hostname
hostname hadoop01
2 服務(wù)器hadoop02
[root@localhost ~]# echo hadoop02 > /etc/hostname
hostname hadoop02
3 服務(wù)器hadoop03
[root@localhost ~]# echo hadoop03 > /etc/hostname
hostname hadoop03
4 服務(wù)器hadoop04
[root@localhost ~]# echo hadoop04 > /etc/hostname
hostname hadoop04

2.2 配置hosts文件

同步腳本的那臺機(jī)器上谦趣,現(xiàn)在是hadoop01
192.168.85.101 hadoop01
192.168.85.102 hadoop02
192.168.85.103 hadoop03
192.168.85.104 hadoop04
192.168.85.105 hadoop05

3 配置免密登錄

3.1 生成rsa密鑰

使用命令ssh-keygen 生成rsa密鑰,配置信息直接回車即可, 生成的密鑰默認(rèn)在當(dāng)前用戶主目錄的.ssh目錄下座每。
密鑰文件有兩個:

  • id_rsa 存放著私鑰
  • id_rsa.pub 存放著公鑰
[root@localhost ~]# ssh-keygen
Generating public/private rsa key pair.
Enter file in which to save the key (/root/.ssh/id_rsa): 
Created directory '/root/.ssh'.
Enter passphrase (empty for no passphrase): 
Enter same passphrase again: 
Your identification has been saved in /root/.ssh/id_rsa.
Your public key has been saved in /root/.ssh/id_rsa.pub.
The key fingerprint is:
SHA256:fX0pdntsAyRWTvjuoSG+VFu/vsfFpRypBi2Z5iRY8ok root@localhost.localdomain
The key's randomart image is:
+---[RSA 2048]----+
|            .o   |
|      . .  .+    |
|       * . *.o . |
|      E +.O +oo o|
|        S=.+oB.*o|
|         .oo*oBo+|
|        ...o+ .==|
|        .. . . .*|
|         ..   .+o|
+----[SHA256]-----+
[root@localhost ~]# 

3.2 同步公鑰到其他服務(wù)器

3.2.1 安裝rsync

[root@localhost ~]# yum install -y rsync

3.2.1 同步公鑰

[root@localhost ~]#  cp id_rsa.pub authorized_keys
[root@localhost ~]# rsync authorized_keys root@hadoop02:/root/.ssh/
[root@localhost ~]# rsync authorized_keys root@hadoop03:/root/.ssh/
[root@localhost ~]# rsync authorized_keys root@hadoop04:/root/.ssh/

3.3 免密登錄測試

無需輸入密碼前鹅,代表密碼登錄配置成功

[root@localhost ~]# root@hadoop02

4 xsync腳本使用

用戶主目錄的bin目錄添加 pwd查看當(dāng)前目錄,用戶登錄進(jìn)去的初始目錄峭梳,一般為目錄

4.1 創(chuàng)建腳本

#!/bin/bash
#1 獲取輸入?yún)?shù)個數(shù)舰绘,如果沒有參數(shù)蹂喻,直接退出
pcount=$#
if((pcount==0)); then
echo no args;
exit;
fi

#2 獲取文件名稱
p1=$1
fname=`basename $p1`
echo fname=$fname

#3 獲取上級目錄到絕對路徑
pdir=`cd -P $(dirname $p1); pwd`
echo pdir=$pdir

#4 獲取當(dāng)前用戶名稱
user=`whoami`

#5 循環(huán)
for host in 02 03 04; do
        echo ----------------- sync hadoop$host --------------
        rsync -av $pdir/$fname $user@hadoop$host:$pdir
done
參數(shù) filename 待發(fā)送的文件或目錄名

4.2 測試腳本

[root@localhost ~]# xsync /hadoop/test.txt
----------------- sync hadoop02 --------------
----------------- sync hadoop03 --------------
----------------- sync hadoop04 --------------
?著作權(quán)歸作者所有,轉(zhuǎn)載或內(nèi)容合作請聯(lián)系作者
  • 序言:七十年代末,一起剝皮案震驚了整個濱河市捂寿,隨后出現(xiàn)的幾起案子口四,更是在濱河造成了極大的恐慌,老刑警劉巖秦陋,帶你破解...
    沈念sama閱讀 222,590評論 6 517
  • 序言:濱河連續(xù)發(fā)生了三起死亡事件蔓彩,死亡現(xiàn)場離奇詭異,居然都是意外死亡驳概,警方通過查閱死者的電腦和手機(jī)赤嚼,發(fā)現(xiàn)死者居然都...
    沈念sama閱讀 95,157評論 3 399
  • 文/潘曉璐 我一進(jìn)店門,熙熙樓的掌柜王于貴愁眉苦臉地迎上來顺又,“玉大人更卒,你說我怎么就攤上這事≈烧眨” “怎么了蹂空?”我有些...
    開封第一講書人閱讀 169,301評論 0 362
  • 文/不壞的土叔 我叫張陵,是天一觀的道長果录。 經(jīng)常有香客問我上枕,道長,這世上最難降的妖魔是什么雕憔? 我笑而不...
    開封第一講書人閱讀 60,078評論 1 300
  • 正文 為了忘掉前任姿骏,我火速辦了婚禮,結(jié)果婚禮上斤彼,老公的妹妹穿的比我還像新娘分瘦。我一直安慰自己,他們只是感情好琉苇,可當(dāng)我...
    茶點(diǎn)故事閱讀 69,082評論 6 398
  • 文/花漫 我一把揭開白布嘲玫。 她就那樣靜靜地躺著,像睡著了一般并扇。 火紅的嫁衣襯著肌膚如雪去团。 梳的紋絲不亂的頭發(fā)上,一...
    開封第一講書人閱讀 52,682評論 1 312
  • 那天穷蛹,我揣著相機(jī)與錄音土陪,去河邊找鬼。 笑死肴熏,一個胖子當(dāng)著我的面吹牛鬼雀,可吹牛的內(nèi)容都是我干的。 我是一名探鬼主播蛙吏,決...
    沈念sama閱讀 41,155評論 3 422
  • 文/蒼蘭香墨 我猛地睜開眼源哩,長吁一口氣:“原來是場噩夢啊……” “哼鞋吉!你這毒婦竟也來了?” 一聲冷哼從身側(cè)響起励烦,我...
    開封第一講書人閱讀 40,098評論 0 277
  • 序言:老撾萬榮一對情侶失蹤谓着,失蹤者是張志新(化名)和其女友劉穎,沒想到半個月后坛掠,有當(dāng)?shù)厝嗽跇淞掷锇l(fā)現(xiàn)了一具尸體赊锚,經(jīng)...
    沈念sama閱讀 46,638評論 1 319
  • 正文 獨(dú)居荒郊野嶺守林人離奇死亡,尸身上長有42處帶血的膿包…… 初始之章·張勛 以下內(nèi)容為張勛視角 年9月15日...
    茶點(diǎn)故事閱讀 38,701評論 3 342
  • 正文 我和宋清朗相戀三年屉栓,在試婚紗的時候發(fā)現(xiàn)自己被綠了改抡。 大學(xué)時的朋友給我發(fā)了我未婚夫和他白月光在一起吃飯的照片。...
    茶點(diǎn)故事閱讀 40,852評論 1 353
  • 序言:一個原本活蹦亂跳的男人離奇死亡系瓢,死狀恐怖,靈堂內(nèi)的尸體忽然破棺而出句灌,到底是詐尸還是另有隱情夷陋,我是刑警寧澤,帶...
    沈念sama閱讀 36,520評論 5 351
  • 正文 年R本政府宣布胰锌,位于F島的核電站骗绕,受9級特大地震影響,放射性物質(zhì)發(fā)生泄漏资昧。R本人自食惡果不足惜酬土,卻給世界環(huán)境...
    茶點(diǎn)故事閱讀 42,181評論 3 335
  • 文/蒙蒙 一、第九天 我趴在偏房一處隱蔽的房頂上張望格带。 院中可真熱鬧撤缴,春花似錦、人聲如沸叽唱。這莊子的主人今日做“春日...
    開封第一講書人閱讀 32,674評論 0 25
  • 文/蒼蘭香墨 我抬頭看了看天上的太陽棺亭。三九已至虎眨,卻和暖如春,著一層夾襖步出監(jiān)牢的瞬間镶摘,已是汗流浹背嗽桩。 一陣腳步聲響...
    開封第一講書人閱讀 33,788評論 1 274
  • 我被黑心中介騙來泰國打工, 沒想到剛下飛機(jī)就差點(diǎn)兒被人妖公主榨干…… 1. 我叫王不留凄敢,地道東北人碌冶。 一個月前我還...
    沈念sama閱讀 49,279評論 3 379
  • 正文 我出身青樓,卻偏偏與公主長得像贡未,于是被迫代替她去往敵國和親种樱。 傳聞我的和親對象是個殘疾皇子蒙袍,可洞房花燭夜當(dāng)晚...
    茶點(diǎn)故事閱讀 45,851評論 2 361

推薦閱讀更多精彩內(nèi)容

  • Hadoop HA集群搭建文檔.............................................
    鐘敏_1788閱讀 1,462評論 0 0
  • 大數(shù)據(jù)集群搭建 本文檔將搭建以下集群 hadoop 集群 zookeeper 集群 hbase 集群 spark ...
    dhz120閱讀 637評論 0 0
  • 大數(shù)據(jù)集群搭建 本文檔將搭建以下集群 hadoop 集群 zookeeper 集群 hbase 集群 spark ...
    dhz120閱讀 380評論 0 0
  • 第一部分:Linux環(huán)境安裝Hadoop是運(yùn)行在Linux,雖然借助工具也可以運(yùn)行在Windows上嫩挤,但是建議還是...
    張明洋_4b13閱讀 3,015評論 0 0
  • 目錄 集群簡介 服務(wù)器準(zhǔn)備 環(huán)境和服務(wù)器設(shè)置 JDK環(huán)境安裝 Hadoop安裝部署 啟動集群 測試 集群簡介 在進(jìn)...
    Singer_Au閱讀 2,732評論 0 8