三十四、ElasticsearchI之hadoop hdfs分布式文件存儲系統(tǒng)搭建

hadoop簡單的介紹圣拄,不會花太多時間嘴秸,hadoop當前大數(shù)據(jù)領(lǐng)域的事實上的一個標準

hadoop hdfs,提供的是分布式的文件存儲售担,數(shù)據(jù)存儲
hadoop yarn赁遗,提供的是分布式的資源調(diào)度
hadoop mapreduce,提供的是分布式的計算引擎族铆,跑在yarn上面的岩四,由yarn去做資源調(diào)度
hadoop hive,提供的是分布式的數(shù)據(jù)倉庫引擎哥攘,基于mapreduce
hadoop hbase剖煌,提供的是分布式的NoSQL數(shù)據(jù)庫,基于hdfs去做的

1逝淹、使用課程提供的hadoop-2.7.1.tar.gz耕姊,使用WinSCP上傳到CentOS的/usr/local目錄下。
2栅葡、將hadoop包進行解壓縮:tar -zxvf hadoop-2.7.1.tar.gz
3茉兰、對hadoop目錄進行重命名:mv hadoop-2.7.1 hadoop
4、配置hadoop相關(guān)環(huán)境變量

vi .bashrc
export HADOOP_HOME=/usr/local/hadoop
export PATH=$HADOOP_HOME/bin:$HADOOP_HOME/sbin
source .bashrc

5欣簇、在/usr/local目錄下創(chuàng)建data目錄

6规脸、修改配置文件

core-site.xml

<property>
  <name>fs.defaultFS</name>
  <value>hdfs://elasticsearch01:9000</value>
</property>

hdfs-site.xml

<property>
  <name>dfs.namenode.name.dir</name>
  <value>/usr/local/data/namenode</value>
</property>
<property>
  <name>dfs.datanode.data.dir</name>
  <value>/usr/local/data/datanode</value>
</property>

yarn-site.xml

<property>
  <name>yarn.resourcemanager.hostname</name>
  <value>elasticsearch01</value>
</property>

mapred-site.xml

<property>
  <name>mapreduce.framework.name</name>
  <value>yarn</value>
</property>

vi slaves

elasticsearch01
elasticsearch02
elasticsearch03

在另外兩臺機器上部署

1坯约、使用scp命令將elasticsearch01上面的hadoop安裝包和.bashrc配置文件都拷貝過去。
2莫鸭、要記得對.bashrc文件進行source闹丐,以讓它生效。
3被因、記得在另外兩臺機器的/usr/local目錄下創(chuàng)建data目錄卿拴。

啟動hdfs集群

su elasticsearch
chown -R elasticsearch /usr/local/hadoop
chown -R elasticsearch /usr/local/data

1、格式化namenode:在elasticsearch01(主節(jié)點)上執(zhí)行以下命令hdfs namenode -format
2梨与、啟動hdfs集群:start-dfs.sh
3堕花、驗證啟動是否成功:jps、50070端口
elasticsearch01:namenode粥鞋、datanode航徙、secondarynamenode
elasticsearch02:datanode
elasticsearch03:datanode
在host下配置IP映射
頁面http://elasticsearch01:5007

?著作權(quán)歸作者所有,轉(zhuǎn)載或內(nèi)容合作請聯(lián)系作者
  • 序言:七十年代末,一起剝皮案震驚了整個濱河市陷虎,隨后出現(xiàn)的幾起案子,更是在濱河造成了極大的恐慌杠袱,老刑警劉巖尚猿,帶你破解...
    沈念sama閱讀 212,080評論 6 493
  • 序言:濱河連續(xù)發(fā)生了三起死亡事件,死亡現(xiàn)場離奇詭異楣富,居然都是意外死亡凿掂,警方通過查閱死者的電腦和手機,發(fā)現(xiàn)死者居然都...
    沈念sama閱讀 90,422評論 3 385
  • 文/潘曉璐 我一進店門纹蝴,熙熙樓的掌柜王于貴愁眉苦臉地迎上來庄萎,“玉大人,你說我怎么就攤上這事塘安】诽危” “怎么了?”我有些...
    開封第一講書人閱讀 157,630評論 0 348
  • 文/不壞的土叔 我叫張陵兼犯,是天一觀的道長忍捡。 經(jīng)常有香客問我,道長切黔,這世上最難降的妖魔是什么砸脊? 我笑而不...
    開封第一講書人閱讀 56,554評論 1 284
  • 正文 為了忘掉前任,我火速辦了婚禮纬霞,結(jié)果婚禮上凌埂,老公的妹妹穿的比我還像新娘。我一直安慰自己诗芜,他們只是感情好瞳抓,可當我...
    茶點故事閱讀 65,662評論 6 386
  • 文/花漫 我一把揭開白布埃疫。 她就那樣靜靜地躺著,像睡著了一般挨下。 火紅的嫁衣襯著肌膚如雪熔恢。 梳的紋絲不亂的頭發(fā)上,一...
    開封第一講書人閱讀 49,856評論 1 290
  • 那天臭笆,我揣著相機與錄音叙淌,去河邊找鬼。 笑死愁铺,一個胖子當著我的面吹牛鹰霍,可吹牛的內(nèi)容都是我干的。 我是一名探鬼主播茵乱,決...
    沈念sama閱讀 39,014評論 3 408
  • 文/蒼蘭香墨 我猛地睜開眼茂洒,長吁一口氣:“原來是場噩夢啊……” “哼!你這毒婦竟也來了瓶竭?” 一聲冷哼從身側(cè)響起督勺,我...
    開封第一講書人閱讀 37,752評論 0 268
  • 序言:老撾萬榮一對情侶失蹤,失蹤者是張志新(化名)和其女友劉穎斤贰,沒想到半個月后智哀,有當?shù)厝嗽跇淞掷锇l(fā)現(xiàn)了一具尸體,經(jīng)...
    沈念sama閱讀 44,212評論 1 303
  • 正文 獨居荒郊野嶺守林人離奇死亡荧恍,尸身上長有42處帶血的膿包…… 初始之章·張勛 以下內(nèi)容為張勛視角 年9月15日...
    茶點故事閱讀 36,541評論 2 327
  • 正文 我和宋清朗相戀三年瓷叫,在試婚紗的時候發(fā)現(xiàn)自己被綠了。 大學時的朋友給我發(fā)了我未婚夫和他白月光在一起吃飯的照片送巡。...
    茶點故事閱讀 38,687評論 1 341
  • 序言:一個原本活蹦亂跳的男人離奇死亡摹菠,死狀恐怖,靈堂內(nèi)的尸體忽然破棺而出骗爆,到底是詐尸還是另有隱情次氨,我是刑警寧澤,帶...
    沈念sama閱讀 34,347評論 4 331
  • 正文 年R本政府宣布摘投,位于F島的核電站糟需,受9級特大地震影響,放射性物質(zhì)發(fā)生泄漏谷朝。R本人自食惡果不足惜洲押,卻給世界環(huán)境...
    茶點故事閱讀 39,973評論 3 315
  • 文/蒙蒙 一、第九天 我趴在偏房一處隱蔽的房頂上張望圆凰。 院中可真熱鬧杈帐,春花似錦、人聲如沸。這莊子的主人今日做“春日...
    開封第一講書人閱讀 30,777評論 0 21
  • 文/蒼蘭香墨 我抬頭看了看天上的太陽。三九已至站叼,卻和暖如春娃兽,著一層夾襖步出監(jiān)牢的瞬間,已是汗流浹背尽楔。 一陣腳步聲響...
    開封第一講書人閱讀 32,006評論 1 266
  • 我被黑心中介騙來泰國打工投储, 沒想到剛下飛機就差點兒被人妖公主榨干…… 1. 我叫王不留,地道東北人阔馋。 一個月前我還...
    沈念sama閱讀 46,406評論 2 360
  • 正文 我出身青樓玛荞,卻偏偏與公主長得像,于是被迫代替她去往敵國和親呕寝。 傳聞我的和親對象是個殘疾皇子勋眯,可洞房花燭夜當晚...
    茶點故事閱讀 43,576評論 2 349

推薦閱讀更多精彩內(nèi)容