Cloudera Hadoop 離線安裝

1,前期環(huán)境檢查

  • hosts文件
  • jdk版本
  • 主機操作系統(tǒng)是否與CDH版本匹配
  • 檢查主機hostname是否合法(主機域名不能帶'_',血淚史。)
  • ntp時間同步
  • 防火墻(iptables)

官方支持版本檢查文檔
https://www.cloudera.com/documentation/enterprise/release-notes/topics/rn_consolidated_pcm.html#cm_cdh_compatibility

2,下載cloudera manager相關安裝包

官方地址:http://archive.cloudera.com/cm5/

下載包列表

(以5.9.0為例,完整地址:http://archive.cloudera.com/cm5/redhat/7/x86_64/cm/5.9.0/RPMS/x86_64/)

  • cloudera-manager-daemons-5.9.0-1.cm590.p0.249.el7.x86_64.rpm
  • cloudera-manager-server-5.9.0-1.cm590.p0.249.el7.x86_64.rpm
  • cloudera-manager-server-db-2-5.9.0-1.cm590.p0.249.el7.x86_64.rpm
  • oracle-j2sdk1.7-1.7.0+update67-1.x86_64.rpm
  • cloudera-manager-agent-5.9.0-1.cm590.p0.249.el7.x86_64.rpm

3,安裝cloudera manager server相關服務

$ sudo yum --nogpgcheck localinstall oracle-j2sdk1.7-1.7.0+update67-1.x86_64.rpm
$ sudo yum --nogpgcheck localinstall cloudera-manager-daemons-5.9.0-1.cm590.p0.249.el7.x86_64.rpm
$ sudo yum --nogpgcheck localinstall cloudera-manager-server-*.rpm

4,啟動內(nèi)置數(shù)據(jù)庫

$ sudo service cloudera-scm-server-db start
# scm 密碼:/etc/cloudera-scm-server/db.properties
# postgre 密碼: /var/lib/cloudera-scm-server-db/data/generated_password.txt [psql -h localhost -p 7432 -U cloudera-scm -d postgres]

5,啟動cloudera manager server服務

$ sudo service cloudera-scm-server start
# 日志目錄:/var/log/cloudera-scm-server/cloudera-scm-server.log

6,檢查前臺頁面是否能夠訪問

地址:hostip:7180/

用戶名/密碼:admin/admin

6,啟動cloudera manager agent服務

# 修改/etc/cloudera-scm-agent/config.ini 中 server_host項
$ vi /etc/cloudera-scm-agent/config.ini
server_host={你搭建的cloudera manager server ip地址}
$ sudo service cloudera-manager-agent start
# 日志目錄:/var/log/cloudera-scm-agent/cloudera-scm-agent.log

7,登錄頁面查看hosts中是否存在這臺主機

8,在其他節(jié)點安裝并配置agent

9,下載CDH安裝包

地址:http://archive.cloudera.com/cdh5/parcels

下載包列表

(以cdh5.8.4為例,完整地址:http://archive.cloudera.com/cdh5/parcels/5.8.4/)

  • CDH-5.8.4-1.cdh5.8.4.p0.5-el7.parcel
  • CDH-5.8.4-1.cdh5.8.4.p0.5-el7.parcel.sha1

10,將文件上傳至cloudera manager server主機 /opt/cloudera/parcel-repo目錄

11,登錄CM頁面,開始安裝服務。


問題排查

agent未啟動且無日志信息

問題描述:
$ sudo service cloudera-scm-agent start
Starting Cloudera Manager Agent...

BEGIN /sbin/service cloudera-scm-agent status 
● cloudera-scm-agent.service - LSB: Cloudera SCM Agent 
Loaded: loaded (/etc/rc.d/init.d/cloudera-scm-agent; bad; vendor preset: disabled) 
Active: inactive (dead) 
Docs: man:systemd-sysv-generator(8) 
END (3) 
BEGIN /sbin/service cloudera-scm-agent start 
Starting cloudera-scm-agent (via systemctl): [ OK ] 
END (0) 

# 顯示agent服務啟動失敗,檢查/var/log/cloudera-scm-agent目錄下只有.out文件,無.log日志文件,執(zhí)行'/etc/rc.d/init.d/cloudera-scm-agent start'返回值為0玷禽。
# 使用CM頁面安裝時報錯如下:
Installation failed. Failed to receive heartbeat from agent.
Ensure that the host's hostname is configured properly.
Ensure that port 7182 is accessible on the Cloudera Manager Server (check firewall rules).
Ensure that ports 9000 and 9001 are not in use on the host being added.
Check agent logs in /var/log/cloudera-scm-agent/ on the host being added. (Some of the logs can be found in the installation details).
If Use TLS Encryption for Agents is enabled in Cloudera Manager (Administration -> Settings -> Security), ensure that /etc/cloudera-scm-agent/config.ini has use_tls=1 on the host being added. Restart the corresponding agent and click the Retry link here.

參考鏈接:https://community.cloudera.com/t5/Cloudera-Manager-Installation/Installation-failed-Failed-to-receive-heartbeat-from-agent/td-p/53921

解決方案:修改主機hostname(主機名必須符合規(guī)范,不能包含下劃線'_',如果社區(qū)沒這先例,我估計只能以死謝罪了)

問題描述:
安裝hive服務時使用外置mysql數(shù)據(jù)庫,測試連接報錯:
User can't run DDL statements on the specified database. Attempt to create and drop a table failed.

報錯信息為執(zhí)行ddl失敗,我們后臺使用命令行連接正常,找dba調(diào)了半天的權(quán)限,還是不行。
后面在頁面測試時DBA發(fā)現(xiàn)數(shù)據(jù)庫并未建立連接,開始查看官方文檔哺呜,發(fā)現(xiàn)5.8.4版本只支持5.6版本的mysql,而我們DBA使用的是5.7版本。重建5.5版本數(shù)據(jù)庫后解決問題箕戳。這報錯不是一般的坑,居然說ddl執(zhí)行失敗某残。

解決方案:檢查數(shù)據(jù)庫版本是否在cdh版本支持列表中.

?著作權(quán)歸作者所有,轉(zhuǎn)載或內(nèi)容合作請聯(lián)系作者
  • 序言:七十年代末,一起剝皮案震驚了整個濱河市陵吸,隨后出現(xiàn)的幾起案子玻墅,更是在濱河造成了極大的恐慌,老刑警劉巖壮虫,帶你破解...
    沈念sama閱讀 211,265評論 6 490
  • 序言:濱河連續(xù)發(fā)生了三起死亡事件澳厢,死亡現(xiàn)場離奇詭異,居然都是意外死亡,警方通過查閱死者的電腦和手機剩拢,發(fā)現(xiàn)死者居然都...
    沈念sama閱讀 90,078評論 2 385
  • 文/潘曉璐 我一進店門线得,熙熙樓的掌柜王于貴愁眉苦臉地迎上來,“玉大人裸扶,你說我怎么就攤上這事框都。” “怎么了呵晨?”我有些...
    開封第一講書人閱讀 156,852評論 0 347
  • 文/不壞的土叔 我叫張陵,是天一觀的道長熬尺。 經(jīng)常有香客問我摸屠,道長,這世上最難降的妖魔是什么粱哼? 我笑而不...
    開封第一講書人閱讀 56,408評論 1 283
  • 正文 為了忘掉前任季二,我火速辦了婚禮,結(jié)果婚禮上揭措,老公的妹妹穿的比我還像新娘胯舷。我一直安慰自己,他們只是感情好绊含,可當我...
    茶點故事閱讀 65,445評論 5 384
  • 文/花漫 我一把揭開白布桑嘶。 她就那樣靜靜地躺著,像睡著了一般躬充。 火紅的嫁衣襯著肌膚如雪逃顶。 梳的紋絲不亂的頭發(fā)上,一...
    開封第一講書人閱讀 49,772評論 1 290
  • 那天充甚,我揣著相機與錄音以政,去河邊找鬼。 笑死伴找,一個胖子當著我的面吹牛盈蛮,可吹牛的內(nèi)容都是我干的。 我是一名探鬼主播技矮,決...
    沈念sama閱讀 38,921評論 3 406
  • 文/蒼蘭香墨 我猛地睜開眼抖誉,長吁一口氣:“原來是場噩夢啊……” “哼!你這毒婦竟也來了穆役?” 一聲冷哼從身側(cè)響起寸五,我...
    開封第一講書人閱讀 37,688評論 0 266
  • 序言:老撾萬榮一對情侶失蹤,失蹤者是張志新(化名)和其女友劉穎耿币,沒想到半個月后梳杏,有當?shù)厝嗽跇淞掷锇l(fā)現(xiàn)了一具尸體,經(jīng)...
    沈念sama閱讀 44,130評論 1 303
  • 正文 獨居荒郊野嶺守林人離奇死亡,尸身上長有42處帶血的膿包…… 初始之章·張勛 以下內(nèi)容為張勛視角 年9月15日...
    茶點故事閱讀 36,467評論 2 325
  • 正文 我和宋清朗相戀三年十性,在試婚紗的時候發(fā)現(xiàn)自己被綠了叛溢。 大學時的朋友給我發(fā)了我未婚夫和他白月光在一起吃飯的照片。...
    茶點故事閱讀 38,617評論 1 340
  • 序言:一個原本活蹦亂跳的男人離奇死亡劲适,死狀恐怖楷掉,靈堂內(nèi)的尸體忽然破棺而出,到底是詐尸還是另有隱情霞势,我是刑警寧澤烹植,帶...
    沈念sama閱讀 34,276評論 4 329
  • 正文 年R本政府宣布,位于F島的核電站愕贡,受9級特大地震影響草雕,放射性物質(zhì)發(fā)生泄漏。R本人自食惡果不足惜固以,卻給世界環(huán)境...
    茶點故事閱讀 39,882評論 3 312
  • 文/蒙蒙 一墩虹、第九天 我趴在偏房一處隱蔽的房頂上張望。 院中可真熱鬧憨琳,春花似錦诫钓、人聲如沸。這莊子的主人今日做“春日...
    開封第一講書人閱讀 30,740評論 0 21
  • 文/蒼蘭香墨 我抬頭看了看天上的太陽。三九已至闲擦,卻和暖如春慢味,著一層夾襖步出監(jiān)牢的瞬間,已是汗流浹背墅冷。 一陣腳步聲響...
    開封第一講書人閱讀 31,967評論 1 265
  • 我被黑心中介騙來泰國打工纯路, 沒想到剛下飛機就差點兒被人妖公主榨干…… 1. 我叫王不留,地道東北人寞忿。 一個月前我還...
    沈念sama閱讀 46,315評論 2 360
  • 正文 我出身青樓驰唬,卻偏偏與公主長得像,于是被迫代替她去往敵國和親腔彰。 傳聞我的和親對象是個殘疾皇子叫编,可洞房花燭夜當晚...
    茶點故事閱讀 43,486評論 2 348

推薦閱讀更多精彩內(nèi)容