在一個(gè)新的HDP集群上安裝HDF服務(wù)

概述

HORTONWORKS DATA PLATFORM (HDP?)
基于集中化架構(gòu) (YARN)而涉,是業(yè)內(nèi)唯一一款極其安全且可用于企業(yè)的開源 Apache Hadoop? 分布式系統(tǒng)著瓶。HDP 可滿足靜態(tài)數(shù)據(jù)的全部需求,助力實(shí)時(shí)客戶應(yīng)用程序啼县,并提供可加速?zèng)Q策和創(chuàng)新進(jìn)程的強(qiáng)勁大數(shù)據(jù)分析材原。

Hortonworks DataFlow (HDF) 提供了唯一的端到端平臺(tái),利用直觀的拖放界面季眷,可以在內(nèi)部或云中實(shí)時(shí)收集余蟹、管理、分析和操作數(shù)據(jù)子刮。HDF 是 Apache Nifi/MiNifi威酒、Apache Kafka、Apache Storm 和 Druid 集成的解決方案挺峡。HDF流實(shí)時(shí)數(shù)據(jù)分析平臺(tái)包含數(shù)據(jù)流管理系統(tǒng)葵孤、流處理和企業(yè)服務(wù)。

HDP處理靜態(tài)數(shù)據(jù)橱赠;HDF處理流實(shí)時(shí)數(shù)據(jù)尤仍。

本文主要介紹如何在一個(gè)新的HDP集群上安裝HDF服務(wù)。

要求環(huán)境

  • 操作系統(tǒng)——CentOS7
  • CPU架構(gòu)——x86
  • 一個(gè)新的HDP集群環(huán)境狭姨,參考部署HDP
  • Java1.8

在新的HDP集群上安裝HDF

準(zhǔn)備好以上環(huán)境以后宰啦,我們就可以開始安裝HDF了

下載HDF

下載Hortonworks HDF management pack(mpack),參考你的操作系統(tǒng)饼拍,從 HDF Release Nots 下載相應(yīng)的版本绑莺。這里,我們以適用于 CentOS7 操作系統(tǒng)的 HDF-3.0.1.1 為例惕耕。你可以先下載下來,再上傳到裝有ambari的主機(jī)上诫肠,或者直接登陸到ambari主機(jī)司澎,執(zhí)行命令下載:

wget http://public-repo-1.hortonworks.com/HDF/centos7/3.x/updates/3.0.1.1/tars/hdf_ambari_mp/hdf-ambari-mpack-3.0.1.1-5.tar.gz

安裝HDF management pack

如果你還沒有登陸到ambari主機(jī)上,請(qǐng)先登錄栋豫,然后切換到 hdf-ambari-mpack-3.0.1.1-5.tar.gz 所在目錄挤安。接下來安裝management pack,執(zhí)行如下命令:

ambari-server install-mpack --mpack=./hdf-ambari-mpack-3.0.1.1-5.tar.gz --verbose

安裝完成后丧鸯,重啟 Ambari Server:

ambari-server restart

更新HDF Base URL

安裝好HDF management pack并重啟 Ambari Server 之后蛤铜,在瀏覽器訪問Ambari并登陸,然后執(zhí)行以下步驟:

  1. 點(diǎn)擊右上角的 admin,然后選在 Manage Ambari围肥;
  2. 找到左邊的 Clusters 視圖剿干,點(diǎn)擊 Versions,然后點(diǎn)擊 HDP version 鏈接穆刻;
  3. 參考你的操作系統(tǒng)置尔,從 HDF Release Nots 選擇相應(yīng)的 HDF Base URL,然后配置到對(duì)應(yīng)操作系統(tǒng)的base URL位置氢伟;
  4. 點(diǎn)擊 Save榜轿。

這樣,HDF就配置完成朵锣,下面就可以選擇相應(yīng)服務(wù)進(jìn)行添加了谬盐。

添加一個(gè)HDF服務(wù)到一個(gè)HDP集群

到此,我們已經(jīng)將HDF服務(wù)信息添加到Ambari中诚些,下面就可以添加HDF的服務(wù)了:

  1. 在Ambari home頁面飞傀,點(diǎn)擊左邊的 Actions,然后選擇 +Add Service;

    image

  2. 選擇想要安裝的HDF服務(wù)(NiFi, Storm, Kafka, Streaming Analytics Manager, and Schema Registry);

  3. Assign Masters 環(huán)節(jié)泣刹,使用先前的 Stream Processing 集群部署圖分發(fā) master 服務(wù)助析;

  4. Assign Slaves and Clients 環(huán)節(jié),使用先前的 Stream Processing 集群部署圖分發(fā) slave 服務(wù)椅您;

總結(jié)

到此為止外冀,我們已經(jīng)可以在一個(gè)現(xiàn)有的HDP集群上安裝HDF服務(wù)了,過程并不復(fù)雜掀泳。HDF服務(wù)更多詳細(xì)的配置步驟雪隧,請(qǐng)參考 更多HDF信息

對(duì)于ambari员舵,從接觸開始脑沿,到現(xiàn)在的豐富功能,我看見了其在社區(qū)力量下的茁壯成長马僻,充分感覺到了社區(qū)的力量庄拇。而我個(gè)人也在積極參與社區(qū)并貢獻(xiàn)社區(qū),希望志同道合的朋友們能夠積極分享所學(xué)所思韭邓,讓我們共同進(jìn)步措近。

參考:
https://docs.hortonworks.com/HDPDocuments/HDF3/HDF-3.0.1.1/bk_installing-hdf-and-hdp/content/ch_install-mpack.html

轉(zhuǎn)載請(qǐng)注明出處……

文章最新地址

最后編輯于
?著作權(quán)歸作者所有,轉(zhuǎn)載或內(nèi)容合作請(qǐng)聯(lián)系作者
  • 序言:七十年代末,一起剝皮案震驚了整個(gè)濱河市女淑,隨后出現(xiàn)的幾起案子瞭郑,更是在濱河造成了極大的恐慌,老刑警劉巖鸭你,帶你破解...
    沈念sama閱讀 206,311評(píng)論 6 481
  • 序言:濱河連續(xù)發(fā)生了三起死亡事件屈张,死亡現(xiàn)場(chǎng)離奇詭異擒权,居然都是意外死亡,警方通過查閱死者的電腦和手機(jī)阁谆,發(fā)現(xiàn)死者居然都...
    沈念sama閱讀 88,339評(píng)論 2 382
  • 文/潘曉璐 我一進(jìn)店門碳抄,熙熙樓的掌柜王于貴愁眉苦臉地迎上來,“玉大人笛厦,你說我怎么就攤上這事纳鼎。” “怎么了裳凸?”我有些...
    開封第一講書人閱讀 152,671評(píng)論 0 342
  • 文/不壞的土叔 我叫張陵贱鄙,是天一觀的道長。 經(jīng)常有香客問我姨谷,道長逗宁,這世上最難降的妖魔是什么? 我笑而不...
    開封第一講書人閱讀 55,252評(píng)論 1 279
  • 正文 為了忘掉前任梦湘,我火速辦了婚禮瞎颗,結(jié)果婚禮上,老公的妹妹穿的比我還像新娘捌议。我一直安慰自己哼拔,他們只是感情好,可當(dāng)我...
    茶點(diǎn)故事閱讀 64,253評(píng)論 5 371
  • 文/花漫 我一把揭開白布瓣颅。 她就那樣靜靜地躺著倦逐,像睡著了一般。 火紅的嫁衣襯著肌膚如雪宫补。 梳的紋絲不亂的頭發(fā)上檬姥,一...
    開封第一講書人閱讀 49,031評(píng)論 1 285
  • 那天,我揣著相機(jī)與錄音粉怕,去河邊找鬼健民。 笑死,一個(gè)胖子當(dāng)著我的面吹牛贫贝,可吹牛的內(nèi)容都是我干的秉犹。 我是一名探鬼主播,決...
    沈念sama閱讀 38,340評(píng)論 3 399
  • 文/蒼蘭香墨 我猛地睜開眼稚晚,長吁一口氣:“原來是場(chǎng)噩夢(mèng)啊……” “哼凤优!你這毒婦竟也來了?” 一聲冷哼從身側(cè)響起蜈彼,我...
    開封第一講書人閱讀 36,973評(píng)論 0 259
  • 序言:老撾萬榮一對(duì)情侶失蹤,失蹤者是張志新(化名)和其女友劉穎俺驶,沒想到半個(gè)月后幸逆,有當(dāng)?shù)厝嗽跇淞掷锇l(fā)現(xiàn)了一具尸體棍辕,經(jīng)...
    沈念sama閱讀 43,466評(píng)論 1 300
  • 正文 獨(dú)居荒郊野嶺守林人離奇死亡,尸身上長有42處帶血的膿包…… 初始之章·張勛 以下內(nèi)容為張勛視角 年9月15日...
    茶點(diǎn)故事閱讀 35,937評(píng)論 2 323
  • 正文 我和宋清朗相戀三年还绘,在試婚紗的時(shí)候發(fā)現(xiàn)自己被綠了楚昭。 大學(xué)時(shí)的朋友給我發(fā)了我未婚夫和他白月光在一起吃飯的照片。...
    茶點(diǎn)故事閱讀 38,039評(píng)論 1 333
  • 序言:一個(gè)原本活蹦亂跳的男人離奇死亡拍顷,死狀恐怖抚太,靈堂內(nèi)的尸體忽然破棺而出,到底是詐尸還是另有隱情昔案,我是刑警寧澤尿贫,帶...
    沈念sama閱讀 33,701評(píng)論 4 323
  • 正文 年R本政府宣布,位于F島的核電站踏揣,受9級(jí)特大地震影響庆亡,放射性物質(zhì)發(fā)生泄漏。R本人自食惡果不足惜捞稿,卻給世界環(huán)境...
    茶點(diǎn)故事閱讀 39,254評(píng)論 3 307
  • 文/蒙蒙 一又谋、第九天 我趴在偏房一處隱蔽的房頂上張望。 院中可真熱鬧娱局,春花似錦彰亥、人聲如沸。這莊子的主人今日做“春日...
    開封第一講書人閱讀 30,259評(píng)論 0 19
  • 文/蒼蘭香墨 我抬頭看了看天上的太陽。三九已至娇斩,卻和暖如春仁卷,著一層夾襖步出監(jiān)牢的瞬間,已是汗流浹背犬第。 一陣腳步聲響...
    開封第一講書人閱讀 31,485評(píng)論 1 262
  • 我被黑心中介騙來泰國打工锦积, 沒想到剛下飛機(jī)就差點(diǎn)兒被人妖公主榨干…… 1. 我叫王不留,地道東北人歉嗓。 一個(gè)月前我還...
    沈念sama閱讀 45,497評(píng)論 2 354
  • 正文 我出身青樓丰介,卻偏偏與公主長得像,于是被迫代替她去往敵國和親鉴分。 傳聞我的和親對(duì)象是個(gè)殘疾皇子哮幢,可洞房花燭夜當(dāng)晚...
    茶點(diǎn)故事閱讀 42,786評(píng)論 2 345

推薦閱讀更多精彩內(nèi)容