Docker部署Hadoop集群

搭建一個(gè)集群環(huán)境時(shí)需要多臺(tái)服務(wù)器幌氮,對(duì)于我們個(gè)人,這通常是個(gè)門檻暮芭,需要使用虛擬機(jī)鹿驼,安裝操作系統(tǒng)欲低,然后運(yùn)行起來(lái)多個(gè)虛機(jī)。

前幾天寫了文章“Hadoop 集群搭建”之后蠢沿,一個(gè)朋友留言說(shuō)希望介紹下如何使用Docker部署伸头,這個(gè)建議很好,Docker不僅在生產(chǎn)環(huán)境威力巨大舷蟀,對(duì)于我們?cè)谧约弘娔X中搭建學(xué)習(xí)實(shí)驗(yàn)環(huán)境更是非常便利恤磷。搭建一個(gè)集群環(huán)境時(shí)需要多臺(tái)服務(wù)器,對(duì)于我們個(gè)人野宜,這通常是個(gè)門檻扫步,需要使用虛擬機(jī),安裝操作系統(tǒng)匈子,然后運(yùn)行起來(lái)多個(gè)虛機(jī)河胎。

hadoop

安裝操作系統(tǒng)是個(gè)不太輕松的任務(wù),并且運(yùn)行多個(gè)虛機(jī)對(duì)個(gè)人電腦性能也有一定要求虎敦,這些門檻影響了很多小伙伴的實(shí)踐積極性游岳,使用Docker的話就簡(jiǎn)單了,不用安裝操作系統(tǒng)其徙,直接下載一個(gè)鏡像胚迫,如centos,這樣操作系統(tǒng)就有了唾那,基于這個(gè)系統(tǒng)鏡像運(yùn)行多個(gè)容器访锻,就相當(dāng)于起了多個(gè)虛機(jī),而且系統(tǒng)性能的消耗要遠(yuǎn)小于虛擬機(jī)闹获。假設(shè)我們有一個(gè) centos7 鏡像期犬,啟動(dòng)多個(gè)容器,每個(gè)容器都有一個(gè)IP避诽,都能通過(guò)SSH連接操作龟虎,這樣就可以在每個(gè)容器中安裝 JAVA Hadoop,從而搭建起集群環(huán)境了沙庐。

使用Docker搭建Hadoop 集群的過(guò)程包括:

安裝Docker獲取centos鏡像安裝SSH為容器配置IP安裝JAVA和Hadoop

配置Hadoop

第1步比較簡(jiǎn)單鲤妥,去Docker官網(wǎng)下載安裝就好,第5和第6步與在獨(dú)立服務(wù)器中的操作是一樣的轨功,所以這里就介紹一下2-4步的Docker操作方式

獲取centos7鏡像

大概是70多M,使用阿里云等Docker加速器的話很快就能下載完容达,之后在鏡像列表中就可以看到查看鏡像列表的命令:

安裝SSH

以centos7鏡像為基礎(chǔ)古涧,構(gòu)建一個(gè)帶有SSH功能的centos

內(nèi)容:

這段內(nèi)容的大意是:以 centos 鏡像為基礎(chǔ),安裝SSH的相關(guān)包花盐,設(shè)置了root用戶的密碼為 111111羡滑,并啟動(dòng)SSH服務(wù)

執(zhí)行構(gòu)建鏡像的命令菇爪,新鏡像命名為 centos7-ssh

執(zhí)行完成后,可以在鏡像列表中看到

設(shè)置固定IP

需要用到 pipework柒昏,他用于給容器設(shè)置IP

先下載

安裝bridge-utils

創(chuàng)建網(wǎng)絡(luò)

基于 centos7-ssh 這個(gè)鏡像啟動(dòng)一個(gè)容器凳宙,名為 centos7.ssh

設(shè)置IP

為名為 centos7.ssh 的容器指定了IP 192.168.3.20

分別使用 ping 與 ssh 命令進(jìn)行驗(yàn)證,看是否可以ping通和成功登錄

ssh成功登錄后职祷,就意味著已經(jīng)準(zhǔn)備好了一臺(tái)服務(wù)器氏涩,再運(yùn)行2個(gè)容器、設(shè)置好IP有梆,那么就相當(dāng)于有了3臺(tái)服務(wù)器

這樣就有了3個(gè)可以SSH連接的容器是尖,可以在上面安裝和配置集群環(huán)境了

構(gòu)建Hadoop鏡像

上面是運(yùn)行了3個(gè)centos容器,需要在每個(gè)容器中單獨(dú)安裝Hadoop環(huán)境泥耀,我們可以像構(gòu)建SSH鏡像一樣饺汹,構(gòu)建一個(gè)Hadoop鏡像,然后運(yùn)行3個(gè)Hadoop容器痰催,這樣就更簡(jiǎn)單了

內(nèi)容:

這里是基于 centos7-ssh 這個(gè)鏡像兜辞,把 JAVA 和 Hadoop 的環(huán)境都配置好了

前提:在Dockerfile所在目錄下準(zhǔn)備好 jdk-8u101-linux-x64.tar.gz 與 hadoop-2.7.3.tar.gz

執(zhí)行構(gòu)建命令,新鏡像命名為 hadoop

運(yùn)行3個(gè)hadoop容器夸溶,分別命名為 hadoop0,hadoop1,hadoop2逸吵,hadoop0 作為master

容器hadoop0啟動(dòng)時(shí),映射了端口號(hào)蜘醋,50070和8088胁塞,是用來(lái)在瀏覽器中訪問(wèn)hadoop WEB界面的

配置IP

配置Hadoop集群

新開3個(gè)終端窗口,分別連接到 hadoop0,hadoop1,hadoop2压语,便于操作

在各個(gè)容器中修改 /etc/hosts啸罢,添加:

接下來(lái)就是配置SSH免登錄,及hadoop的配置文件了胎食,方法和之前“ Hadoop集群搭建 ”中的一樣

這樣就使用Docker實(shí)現(xiàn)了Hadoop集群的搭建

結(jié)語(yǔ)

感謝您的觀看扰才,如有不足之處,歡迎批評(píng)指正厕怜。

如果有對(duì)大數(shù)據(jù)感興趣的小伙伴或者是從事大數(shù)據(jù)的老司機(jī)可以加群:

658558542? ? (?點(diǎn)擊即可加入群聊

里面整理了一大份學(xué)習(xí)資料衩匣,全都是些干貨,包括大數(shù)據(jù)技術(shù)入門粥航,海量數(shù)據(jù)高級(jí)分析語(yǔ)言琅捏,海量數(shù)據(jù)存儲(chǔ)分布式存儲(chǔ),以及海量數(shù)據(jù)分析分布式計(jì)算等部分递雀,送給每一位大數(shù)據(jù)小伙伴柄延,這里不止是小白聚集地,還有大牛在線解答缀程!歡迎初學(xué)和進(jìn)階中的小伙伴一起進(jìn)群學(xué)習(xí)交流搜吧,共同進(jìn)步市俊!

最后祝福所有遇到瓶頸的大數(shù)據(jù)程序員們突破自己,祝福大家在往后的工作與面試中一切順利滤奈。

?著作權(quán)歸作者所有,轉(zhuǎn)載或內(nèi)容合作請(qǐng)聯(lián)系作者
  • 序言:七十年代末摆昧,一起剝皮案震驚了整個(gè)濱河市,隨后出現(xiàn)的幾起案子蜒程,更是在濱河造成了極大的恐慌绅你,老刑警劉巖,帶你破解...
    沈念sama閱讀 221,635評(píng)論 6 515
  • 序言:濱河連續(xù)發(fā)生了三起死亡事件搞糕,死亡現(xiàn)場(chǎng)離奇詭異勇吊,居然都是意外死亡,警方通過(guò)查閱死者的電腦和手機(jī)窍仰,發(fā)現(xiàn)死者居然都...
    沈念sama閱讀 94,543評(píng)論 3 399
  • 文/潘曉璐 我一進(jìn)店門汉规,熙熙樓的掌柜王于貴愁眉苦臉地迎上來(lái),“玉大人驹吮,你說(shuō)我怎么就攤上這事针史。” “怎么了碟狞?”我有些...
    開封第一講書人閱讀 168,083評(píng)論 0 360
  • 文/不壞的土叔 我叫張陵啄枕,是天一觀的道長(zhǎng)。 經(jīng)常有香客問(wèn)我族沃,道長(zhǎng)频祝,這世上最難降的妖魔是什么? 我笑而不...
    開封第一講書人閱讀 59,640評(píng)論 1 296
  • 正文 為了忘掉前任脆淹,我火速辦了婚禮常空,結(jié)果婚禮上,老公的妹妹穿的比我還像新娘盖溺。我一直安慰自己漓糙,他們只是感情好,可當(dāng)我...
    茶點(diǎn)故事閱讀 68,640評(píng)論 6 397
  • 文/花漫 我一把揭開白布烘嘱。 她就那樣靜靜地躺著昆禽,像睡著了一般。 火紅的嫁衣襯著肌膚如雪蝇庭。 梳的紋絲不亂的頭發(fā)上醉鳖,一...
    開封第一講書人閱讀 52,262評(píng)論 1 308
  • 那天,我揣著相機(jī)與錄音哮内,去河邊找鬼盗棵。 笑死,一個(gè)胖子當(dāng)著我的面吹牛,可吹牛的內(nèi)容都是我干的漾根。 我是一名探鬼主播,決...
    沈念sama閱讀 40,833評(píng)論 3 421
  • 文/蒼蘭香墨 我猛地睜開眼鲫竞,長(zhǎng)吁一口氣:“原來(lái)是場(chǎng)噩夢(mèng)啊……” “哼辐怕!你這毒婦竟也來(lái)了?” 一聲冷哼從身側(cè)響起从绘,我...
    開封第一講書人閱讀 39,736評(píng)論 0 276
  • 序言:老撾萬(wàn)榮一對(duì)情侶失蹤寄疏,失蹤者是張志新(化名)和其女友劉穎,沒(méi)想到半個(gè)月后僵井,有當(dāng)?shù)厝嗽跇淞掷锇l(fā)現(xiàn)了一具尸體陕截,經(jīng)...
    沈念sama閱讀 46,280評(píng)論 1 319
  • 正文 獨(dú)居荒郊野嶺守林人離奇死亡,尸身上長(zhǎng)有42處帶血的膿包…… 初始之章·張勛 以下內(nèi)容為張勛視角 年9月15日...
    茶點(diǎn)故事閱讀 38,369評(píng)論 3 340
  • 正文 我和宋清朗相戀三年批什,在試婚紗的時(shí)候發(fā)現(xiàn)自己被綠了农曲。 大學(xué)時(shí)的朋友給我發(fā)了我未婚夫和他白月光在一起吃飯的照片。...
    茶點(diǎn)故事閱讀 40,503評(píng)論 1 352
  • 序言:一個(gè)原本活蹦亂跳的男人離奇死亡驻债,死狀恐怖乳规,靈堂內(nèi)的尸體忽然破棺而出,到底是詐尸還是另有隱情合呐,我是刑警寧澤暮的,帶...
    沈念sama閱讀 36,185評(píng)論 5 350
  • 正文 年R本政府宣布,位于F島的核電站淌实,受9級(jí)特大地震影響冻辩,放射性物質(zhì)發(fā)生泄漏。R本人自食惡果不足惜拆祈,卻給世界環(huán)境...
    茶點(diǎn)故事閱讀 41,870評(píng)論 3 333
  • 文/蒙蒙 一恨闪、第九天 我趴在偏房一處隱蔽的房頂上張望。 院中可真熱鬧缘屹,春花似錦凛剥、人聲如沸。這莊子的主人今日做“春日...
    開封第一講書人閱讀 32,340評(píng)論 0 24
  • 文/蒼蘭香墨 我抬頭看了看天上的太陽(yáng)。三九已至互亮,卻和暖如春犁享,著一層夾襖步出監(jiān)牢的瞬間,已是汗流浹背豹休。 一陣腳步聲響...
    開封第一講書人閱讀 33,460評(píng)論 1 272
  • 我被黑心中介騙來(lái)泰國(guó)打工炊昆, 沒(méi)想到剛下飛機(jī)就差點(diǎn)兒被人妖公主榨干…… 1. 我叫王不留,地道東北人。 一個(gè)月前我還...
    沈念sama閱讀 48,909評(píng)論 3 376
  • 正文 我出身青樓凤巨,卻偏偏與公主長(zhǎng)得像视乐,于是被迫代替她去往敵國(guó)和親。 傳聞我的和親對(duì)象是個(gè)殘疾皇子敢茁,可洞房花燭夜當(dāng)晚...
    茶點(diǎn)故事閱讀 45,512評(píng)論 2 359

推薦閱讀更多精彩內(nèi)容