cdh6.3.2安裝部署

# cdh 6.3.2部署安裝

## 版本信息

| 節(jié)點(diǎn)? ? ? | ip地址? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? | mysql? ? | parcel文件離線源 | cm? ? | cdh? |

| ------- | --------------------------------------- | -------- | ----------- | ----- | ----- |

| hadoop1 | 172.31.66.128? ? ? ? ? ? 172.31.182.223 |? ? ? ? ? | parcel? ? ? | 6.3.1 | 6.3.2 |

| hadoop2 | 172.31.66.129? ? ? ? ? ? ? ? ? ? ? ? ? | mysql5.7 |? ? ? ? ? ? | 6.3.1 | 6.3.2 |

| hadoop3 | 172.31.66.130? ? ? ? ? ? ? ? ? ? ? ? ? |? ? ? ? ? |? ? ? ? ? ? | 6.3.1 | 6.3.2 |

## 下載地址

### cm 6.3.1

```

https://archive.cloudera.com/cm6/6.3.1/repo-as-tarball/cm6.3.1-redhat7.tar.gz

```

### cdh 6.3.2

```

https://archive.cloudera.com/cdh6/6.3.2/parcels/CDH-6.3.2-1.cdh6.3.2.p0.1605554-el7.parcel

https://archive.cloudera.com/cdh6/6.3.2/parcels/CDH-6.3.2-1.cdh6.3.2.p0.1605554-el7.parcel.sha1

https://archive.cloudera.com/cdh6/6.3.2/parcels/manifest.json

```

### jdk

```

https://www.oracle.com/technetwork/java/javase/downloads/java-archive-javase8-2177648.html

```

### mysql

```

https://dev.mysql.com/downloads/mysql/5.7.html#downloads

```

### mysql jdbc jar:

```

https://dev.mysql.com/downloads/connector/j/

```

## 環(huán)境部署

### 1 修改集群節(jié)點(diǎn)基本信息

```

修改集群節(jié)點(diǎn)hadoop1信息:

? 1 hostnamectl set-hostname hadoop1.example.com

? 2 設(shè)置所有節(jié)點(diǎn)的hosts文件

? 172.31.66.128 hadoop1.example.com hadoop1

? 172.31.66.129 hadoop2.example.com hadoop2

? 172.31.66.130 hadoop3.example.com hadoop3

? 3 關(guān)閉防火墻

? systemctl stop firewalld

? systemctl disable firewalld

? 4 修改selinux配置信息

? vim /etc/selinux/config

? ? 將selinux=enforcing改為disabled

? 5 設(shè)置集群各節(jié)點(diǎn)之間免秘鑰登錄

? ssh-keygen

? ssh-copy-id root@hadoop2

? ssh-copy-id root@hadoop3

集群節(jié)點(diǎn)hadoop2犯戏、hadoop3參照節(jié)點(diǎn)1的部署修改基本信息

```

### 2 設(shè)置集群時(shí)鐘同步

```

所有節(jié)點(diǎn)安裝ntp

yum install ntp

修改ntp服務(wù)器配置送火,將所有節(jié)點(diǎn)的ntp同步指向hadoop1

如下hadoop1服務(wù)器ntp配置文件:

driftfile /var/lib/ntp/drift

restrict default nomodify notrap nopeer noquery

restrict 127.0.0.1

restrict ::1

server 127.127.1.0? ? ? ? ? ? ? ? ? ? ? ? //該行如下面一行表示以本地時(shí)鐘為同步時(shí)鐘源

fudge 127.127.1.0 stratum 10

includefile /etc/ntp/crypto/pw

keys /etc/ntp/keys

disable monitor

You have new mail in /var/spool/mail/root

hadoop2、hadoop3服務(wù)器ntp配置文件如下:

driftfile /var/lib/ntp/drift

restrict default nomodify notrap nopeer noquery

restrict 127.0.0.1

restrict ::1

server 172.31.66.128? ? ? ? ? ? ? ? ? ? ? //服務(wù)器時(shí)鐘同步指向hadoop1

includefile /etc/ntp/crypto/pw

keys /etc/ntp/keys

disable monitor

```

### 3部署jdk

```

hadoop集群所有節(jié)點(diǎn)部署jdk

```

### 4 離線安裝部署mysql

```

創(chuàng)建cdh的元數(shù)據(jù)庫(kù)和用戶先匪、amon服務(wù)的數(shù)據(jù)庫(kù)

create database cmf default character utf8;

create database amon default character set utf8;

grant all on cmf.* to 'cmf'@'%' identified by 'admin123';

grant all on amon.* to 'amon'@'%' identified by 'admin123';

flush privileges;

```

### 5 hadoop1節(jié)點(diǎn)部署mysql jdbc jar

```

將下載的jar包安裝部署在/usr/share/java目錄下种吸,并將其重命名為mysql-connector-java.jar,否則在啟動(dòng)服務(wù)的時(shí)候會(huì)報(bào)錯(cuò)

```

### 6 hadoop1節(jié)點(diǎn)作為master節(jié)點(diǎn)呀非,安裝如下安裝包(不下載依賴包直接部署)

```

解壓下載的cm文件坚俗,安裝相應(yīng)的安裝包

rpm -ivh cloudera-manager-server-6.3.1-1466458.el7.x86_64.rpm --nodeps --force

rpm -ivh cloudera-manager-daemons-6.3.1-1466458.el7.x86_64.rpm --nodeps --force

rpm -ivh cloudera-manager-agent-6.3.1-1466458.el7.x86_64.rpm --nodeps --force

安裝好相應(yīng)安裝包后修改hadoop1節(jié)點(diǎn)angent指向

sed -i "s/server_host=localhost/server_host=hadoop1/g" /etc/cloudera-scm-agent/config.ini

修改主節(jié)點(diǎn)server配置

com.cloudera.cmf.db.type=mysql

com.cloudera.cmf.db.host=hadoop2.example.com

com.cloudera.cmf.db.name=cmf

com.cloudera.cmf.db.user=cmf

com.cloudera.cmf.db.password=admin23

com.cloudera.cmf.db.setupType=EXTERNAL

```

### 7 集群中除去Hadoop1節(jié)點(diǎn)安裝如下安裝包

```

解壓下載的cm文件,安裝相應(yīng)的安裝包

rpm -ivh cloudera-manager-daemons-6.3.1-1466458.el7.x86_64.rpm --nodeps --force

rpm -ivh cloudera-manager-agent-6.3.1-1466458.el7.x86_64.rpm --nodeps --force

安裝好相應(yīng)安裝包后修改hadoop1節(jié)點(diǎn)angent指向

sed -i "s/server_host=localhost/server_host=hadoop1/g" /etc/cloudera-scm-agent/config.ini

```

### 8部署parcel源

```

采用hadoop1作為httpd服務(wù)地址

yum install httpd -y

將下載菜單cdh的安裝包解壓到/var/www/html下

[root@hadoop1 java]# ls /var/www/html/cdh6_parcel

CDH-6.3.2-1.cdh6.3.2.p0.1605554-el7.parcel? CDH-6.3.2-1.cdh6.3.2.p0.1605554-el7.parcel.sha(注意這個(gè)文件)? manifest.json

```

### 9啟動(dòng)server服務(wù)

```

systemctl start cloudera-scm-server

如果無(wú)法啟動(dòng)成功岸裙,查看日志進(jìn)行解決

tailf /var/log/cloudera-scm-server/cloudera-scm-server.log

```

### 10 所有節(jié)點(diǎn)啟動(dòng)agent服務(wù)

```

systemctl start cloudera-scm-agent

```

?著作權(quán)歸作者所有,轉(zhuǎn)載或內(nèi)容合作請(qǐng)聯(lián)系作者
  • 序言:七十年代末猖败,一起剝皮案震驚了整個(gè)濱河市,隨后出現(xiàn)的幾起案子降允,更是在濱河造成了極大的恐慌辙浑,老刑警劉巖,帶你破解...
    沈念sama閱讀 218,284評(píng)論 6 506
  • 序言:濱河連續(xù)發(fā)生了三起死亡事件拟糕,死亡現(xiàn)場(chǎng)離奇詭異判呕,居然都是意外死亡,警方通過(guò)查閱死者的電腦和手機(jī)送滞,發(fā)現(xiàn)死者居然都...
    沈念sama閱讀 93,115評(píng)論 3 395
  • 文/潘曉璐 我一進(jìn)店門(mén)侠草,熙熙樓的掌柜王于貴愁眉苦臉地迎上來(lái),“玉大人犁嗅,你說(shuō)我怎么就攤上這事边涕。” “怎么了褂微?”我有些...
    開(kāi)封第一講書(shū)人閱讀 164,614評(píng)論 0 354
  • 文/不壞的土叔 我叫張陵功蜓,是天一觀的道長(zhǎng)。 經(jīng)常有香客問(wèn)我宠蚂,道長(zhǎng)式撼,這世上最難降的妖魔是什么? 我笑而不...
    開(kāi)封第一講書(shū)人閱讀 58,671評(píng)論 1 293
  • 正文 為了忘掉前任求厕,我火速辦了婚禮著隆,結(jié)果婚禮上扰楼,老公的妹妹穿的比我還像新娘。我一直安慰自己美浦,他們只是感情好弦赖,可當(dāng)我...
    茶點(diǎn)故事閱讀 67,699評(píng)論 6 392
  • 文/花漫 我一把揭開(kāi)白布。 她就那樣靜靜地躺著浦辨,像睡著了一般蹬竖。 火紅的嫁衣襯著肌膚如雪。 梳的紋絲不亂的頭發(fā)上流酬,一...
    開(kāi)封第一講書(shū)人閱讀 51,562評(píng)論 1 305
  • 那天案腺,我揣著相機(jī)與錄音,去河邊找鬼康吵。 笑死劈榨,一個(gè)胖子當(dāng)著我的面吹牛,可吹牛的內(nèi)容都是我干的晦嵌。 我是一名探鬼主播同辣,決...
    沈念sama閱讀 40,309評(píng)論 3 418
  • 文/蒼蘭香墨 我猛地睜開(kāi)眼,長(zhǎng)吁一口氣:“原來(lái)是場(chǎng)噩夢(mèng)啊……” “哼惭载!你這毒婦竟也來(lái)了旱函?” 一聲冷哼從身側(cè)響起已骇,我...
    開(kāi)封第一講書(shū)人閱讀 39,223評(píng)論 0 276
  • 序言:老撾萬(wàn)榮一對(duì)情侶失蹤宵凌,失蹤者是張志新(化名)和其女友劉穎,沒(méi)想到半個(gè)月后祖灰,有當(dāng)?shù)厝嗽跇?shù)林里發(fā)現(xiàn)了一具尸體含长,經(jīng)...
    沈念sama閱讀 45,668評(píng)論 1 314
  • 正文 獨(dú)居荒郊野嶺守林人離奇死亡券腔,尸身上長(zhǎng)有42處帶血的膿包…… 初始之章·張勛 以下內(nèi)容為張勛視角 年9月15日...
    茶點(diǎn)故事閱讀 37,859評(píng)論 3 336
  • 正文 我和宋清朗相戀三年,在試婚紗的時(shí)候發(fā)現(xiàn)自己被綠了拘泞。 大學(xué)時(shí)的朋友給我發(fā)了我未婚夫和他白月光在一起吃飯的照片纷纫。...
    茶點(diǎn)故事閱讀 39,981評(píng)論 1 348
  • 序言:一個(gè)原本活蹦亂跳的男人離奇死亡,死狀恐怖陪腌,靈堂內(nèi)的尸體忽然破棺而出辱魁,到底是詐尸還是另有隱情,我是刑警寧澤诗鸭,帶...
    沈念sama閱讀 35,705評(píng)論 5 347
  • 正文 年R本政府宣布染簇,位于F島的核電站,受9級(jí)特大地震影響强岸,放射性物質(zhì)發(fā)生泄漏锻弓。R本人自食惡果不足惜,卻給世界環(huán)境...
    茶點(diǎn)故事閱讀 41,310評(píng)論 3 330
  • 文/蒙蒙 一请唱、第九天 我趴在偏房一處隱蔽的房頂上張望弥咪。 院中可真熱鬧,春花似錦十绑、人聲如沸聚至。這莊子的主人今日做“春日...
    開(kāi)封第一講書(shū)人閱讀 31,904評(píng)論 0 22
  • 文/蒼蘭香墨 我抬頭看了看天上的太陽(yáng)扳躬。三九已至,卻和暖如春甚亭,著一層夾襖步出監(jiān)牢的瞬間贷币,已是汗流浹背。 一陣腳步聲響...
    開(kāi)封第一講書(shū)人閱讀 33,023評(píng)論 1 270
  • 我被黑心中介騙來(lái)泰國(guó)打工亏狰, 沒(méi)想到剛下飛機(jī)就差點(diǎn)兒被人妖公主榨干…… 1. 我叫王不留役纹,地道東北人。 一個(gè)月前我還...
    沈念sama閱讀 48,146評(píng)論 3 370
  • 正文 我出身青樓暇唾,卻偏偏與公主長(zhǎng)得像促脉,于是被迫代替她去往敵國(guó)和親。 傳聞我的和親對(duì)象是個(gè)殘疾皇子策州,可洞房花燭夜當(dāng)晚...
    茶點(diǎn)故事閱讀 44,933評(píng)論 2 355