CM+CDH構(gòu)建企業(yè)大數(shù)據(jù)平臺(2)-- 理論準備CM和CDH

如何實現(xiàn)CM+CDH構(gòu)建企業(yè)級大數(shù)據(jù)平臺

????當(dāng)前邊所有的準備工作都搞定之后诽俯,接下來我們就來正式的通過CM+CDH的方式來構(gòu)建企業(yè)級大數(shù)據(jù)平臺承粤。那么CM是什么闯团?CDH是什么?CM和CDH的關(guān)系是什么仙粱?等等。有必要首先把這些基本概念了解清楚伐割,然后我們再來進行具體的操作演練。

??(一)CM是什么口猜?

?????????簡單地說负溪,CM是Cloudera Manager的縮寫济炎,即CM就是Cloudera公司研發(fā)的一款可以讓企業(yè)對大數(shù)據(jù)平臺的管理和維護變的更簡單更直觀的管理工具。那么怎么個簡單直觀法须尚?

?????????俗話說沒有對比就沒有傷害崖堤,我們先簡單來做個對比耐床,回憶一下不使用CM我們是如何對集群進行操作的。使用CM我們又是怎么操作的撩轰。

?????????比如說啟動HDFS,不使用CM之前要通過執(zhí)行啟動腳本命令堪嫂,使用CM之后只需要點擊對應(yīng)按鈕就行偎箫。 這只是一個最簡單的比較皆串。

?????????除此之外,CM還可以實現(xiàn)以下功能:

????????1恶复、自動化安裝軟件怜森,不用我們先單獨的下載解壓谤牡,然后修改配置文件等等復(fù)雜的操作,只需要按照提示點擊對應(yīng)的按鈕即可拓哟。

????????2伶授、可以查看整個集群或各個節(jié)點的實時運行狀態(tài)断序。對集群進行監(jiān)控和報警。這個是不是更直觀违诗,否則你還要單獨部署監(jiān)控組件漱凝,比如Ganglia诸迟。

????????3、可以通過圖形化界面修改集群的配置文件

?????????這些是最直觀的功能阵苇,當(dāng)然還有其他高級功能壁公,比如滾動升級绅项、自定義圖表、自定義報警監(jiān)控快耿、安全機制等等,這個后邊有時間再說掀亥∽卜矗總之搪花,就是還不錯哦,只要你真的想學(xué)撮竿,還是值得你放棄泡妞的時間來嘗試一下的丁稀。

?????????Ok,前邊對CM夸贊那么多倚聚,實際上,CM就是一個web應(yīng)用惑折,可以讓用戶通過瀏覽器的可視化界面安裝部署、管理維護大數(shù)據(jù)平臺惨驶。讓集群的管理維護由一個個黑乎乎的界面變成一個顏值還不錯的web界面白热。而且CM的漢化做的也比較好粗卜,英文不太好,中文至少還湊活吧。所以說學(xué)起來相對來說還是不難的攻臀。

?????????但是我們說過,圖形化界面可以操作刨啸,直接在集群上也能操作堡赔,圖形化界面相當(dāng)于在集群上做了一層封裝设联,難免在某些地方會有局限,所以說要想更深入的學(xué)習(xí)离例,希望小白還是要掌握一下Linux 的一些基本的操作的。

?????????OK宫蛆,CM我們先簡單認識到這啥寇,后面我們再專門深入的講解CM的架構(gòu)和功能洒扎,以及如何安裝部署CM。

??(二)CDH是什么袍冷?

?????????簡單的說磷醋,CDH就是Cloudera's Distribution including Apache Hadoop的縮寫胡诗,即CDH是包含Apache Hadoop的Cloudera的發(fā)行版。如果你沒接觸過Hadoop煌恢,你可以先這樣理解,Hadoop是各個大數(shù)據(jù)公司幾乎都在使用的用來解決大規(guī)模數(shù)據(jù)存儲和計算等問題的一款好軟件瑰抵。實際上Hadoop里邊還包括很多內(nèi)容你雌,深入一點一個月都講不完二汛,如果想系統(tǒng)的學(xué)習(xí),大家可以到大講臺官網(wǎng)上了解一下肴颊。

??(三)CDH和Apache Hadoop有何關(guān)系氓栈?

?????????實際上Hadoop有很多發(fā)行版婿着,比如CDH醋界、HDP(Hortonworks Data Platform)、MapR提完、intel發(fā)行版、華為發(fā)行版等等氯葬。

?????????但是這些發(fā)行版都是基于Apache Hadoop婉陷,Apache Hadoop的開源協(xié)議決定帚称,任何人可以對其進行修改秽澳,并作為開源或商業(yè)產(chǎn)品發(fā)布/銷售。所以衍生出了大量的發(fā)行版担神。 版本太多楼吃,在選擇的時候就難免會產(chǎn)生困惑妄讯。我該選擇哪一種呢?

?????????實際上在用戶選擇使用哪種發(fā)行版的時候亥贸,一般會考慮兩個問題:

????????第一:是不是好用

?????????如果這些發(fā)型版還沒有社區(qū)版好用躬窜,還沒有apache hadoop用著爽炕置,用戶也不會選擇?所以一般都會有一些新的特性朴摊,或者至少要在apache的基礎(chǔ)上修復(fù)更多的bug

????????第二:要不要錢默垄,即是不是收費

?????????比如我們上邊列出來的幾種:Intel發(fā)行版甚纲、華為發(fā)行版是收費的,而CDH介杆、HDP就可以免費使用,而且他們是開源的这溅,CDH和HDP雖然也有收費版本组民,但是也只是收取服務(wù)費用悲靴。

????????在國內(nèi)公司的使用率上莫其,CDH發(fā)行版目前還是使用的最多的,所以我們也就學(xué)CDH耸三。

?????????當(dāng)然了,不能只是簡單地說仪壮,別人用憨颠,我也用积锅,你也要大概了解一下,是由于CDH的哪些特點或好處讓我們選擇使用它缚陷。就像現(xiàn)在說話一樣,逮個女的都是叫美女箫爷,實際上一看呢嚷节,呵呵虎锚。所以你就要好好看看到底是由于精致的臉蛋還是白白的大長腿讓你覺著它是個美女。你選擇學(xué)習(xí)一門技術(shù)或一個軟件時也一樣窜护。到底是哪些特點或好處讓我們選擇使用它效斑,OK柄慰,那么CDH有哪些好處如此深受廣大大數(shù)據(jù)企業(yè)的青睞呢?我們一塊來看一下坐搔。

??(四)CDH有什么好處呢藏研?

????????1概行、基于Apache協(xié)議,100%開源

????????2凳忙、基于穩(wěn)定版本Apache Hadoop业踏,并修復(fù)了大量的Bug涧卵,比Apache Hadoop的兼容性、安全性柳恐、穩(wěn)定性更強

????????3热幔、充分考慮了各個大數(shù)據(jù)組件之間的版本兼容性,版本管理更清晰(比如CDH5)

????????4讼庇、版本更新快,通常每2-3個月都會有一次更新

????????5蠕啄、集群管理維護更簡單方便场勤,提供了部署歼跟、安裝、配置嘹承、監(jiān)控窗价、診斷等工具(CM)叹卷,大大提高了集群部署及維護的效率

?????????還有因為第三方發(fā)行版通常都經(jīng)過了大量的測試驗證,有眾多部署實例骤竹,大量的運行到各種生產(chǎn)環(huán)境。所以說使用起來更可靠往毡。OK,CM和CDH簡單了解了开瞭,那么他們之間有什么關(guān)系呢懒震?加一塊是啥意思嗤详?Ok,我們來Look一下。

??(五)CM和CDH有什么關(guān)系呢葱色?

?????????通過CM統(tǒng)一的圖形化界面快速自動的安裝部署CDH相關(guān)的服務(wù)組件

?????????所以說CM是一個web工具递宅,CDH是一個軟件棧苍狰,它包含很多軟件,這些軟件怎么安裝呢淋昭,我們可以先安裝CM,然后通過CM圖形化界面自動的安裝CDH里包含的各種軟件翔忽。就這么簡單英融。

????????按照前邊的分析,那么接下來我們的任務(wù)就是先安裝CM矢赁,然后再用CM來安裝CDH包含的大數(shù)據(jù)相關(guān)的軟件糯笙。

?著作權(quán)歸作者所有,轉(zhuǎn)載或內(nèi)容合作請聯(lián)系作者
  • 序言:七十年代末撩银,一起剝皮案震驚了整個濱河市,隨后出現(xiàn)的幾起案子额获,更是在濱河造成了極大的恐慌,老刑警劉巖抄邀,帶你破解...
    沈念sama閱讀 211,743評論 6 492
  • 序言:濱河連續(xù)發(fā)生了三起死亡事件耘眨,死亡現(xiàn)場離奇詭異境肾,居然都是意外死亡,警方通過查閱死者的電腦和手機奥喻,發(fā)現(xiàn)死者居然都...
    沈念sama閱讀 90,296評論 3 385
  • 文/潘曉璐 我一進店門,熙熙樓的掌柜王于貴愁眉苦臉地迎上來环鲤,“玉大人纯趋,你說我怎么就攤上這事冷离。” “怎么了西剥?”我有些...
    開封第一講書人閱讀 157,285評論 0 348
  • 文/不壞的土叔 我叫張陵,是天一觀的道長蔫耽。 經(jīng)常有香客問我结耀,道長匙铡,這世上最難降的妖魔是什么? 我笑而不...
    開封第一講書人閱讀 56,485評論 1 283
  • 正文 為了忘掉前任鳖眼,我火速辦了婚禮黑毅,結(jié)果婚禮上钦讳,老公的妹妹穿的比我還像新娘枕面。我一直安慰自己,他們只是感情好缚去,可當(dāng)我...
    茶點故事閱讀 65,581評論 6 386
  • 文/花漫 我一把揭開白布。 她就那樣靜靜地躺著易结,像睡著了一般。 火紅的嫁衣襯著肌膚如雪搞动。 梳的紋絲不亂的頭發(fā)上躏精,一...
    開封第一講書人閱讀 49,821評論 1 290
  • 那天鹦肿,我揣著相機與錄音,去河邊找鬼箩溃。 笑死瞭吃,一個胖子當(dāng)著我的面吹牛碾篡,可吹牛的內(nèi)容都是我干的虱而。 我是一名探鬼主播开泽,決...
    沈念sama閱讀 38,960評論 3 408
  • 文/蒼蘭香墨 我猛地睜開眼,長吁一口氣:“原來是場噩夢啊……” “哼穆律!你這毒婦竟也來了?” 一聲冷哼從身側(cè)響起导俘,我...
    開封第一講書人閱讀 37,719評論 0 266
  • 序言:老撾萬榮一對情侶失蹤,失蹤者是張志新(化名)和其女友劉穎旅薄,沒想到半個月后辅髓,有當(dāng)?shù)厝嗽跇淞掷锇l(fā)現(xiàn)了一具尸體少梁,經(jīng)...
    沈念sama閱讀 44,186評論 1 303
  • 正文 獨居荒郊野嶺守林人離奇死亡,尸身上長有42處帶血的膿包…… 初始之章·張勛 以下內(nèi)容為張勛視角 年9月15日...
    茶點故事閱讀 36,516評論 2 327
  • 正文 我和宋清朗相戀三年凯沪,在試婚紗的時候發(fā)現(xiàn)自己被綠了。 大學(xué)時的朋友給我發(fā)了我未婚夫和他白月光在一起吃飯的照片妨马。...
    茶點故事閱讀 38,650評論 1 340
  • 序言:一個原本活蹦亂跳的男人離奇死亡杀赢,死狀恐怖,靈堂內(nèi)的尸體忽然破棺而出湘纵,到底是詐尸還是另有隱情脂崔,我是刑警寧澤梧喷,帶...
    沈念sama閱讀 34,329評論 4 330
  • 正文 年R本政府宣布,位于F島的核電站伤柄,受9級特大地震影響绊困,放射性物質(zhì)發(fā)生泄漏适刀。R本人自食惡果不足惜,卻給世界環(huán)境...
    茶點故事閱讀 39,936評論 3 313
  • 文/蒙蒙 一笔喉、第九天 我趴在偏房一處隱蔽的房頂上張望取视。 院中可真熱鬧常挚,春花似錦、人聲如沸奄毡。這莊子的主人今日做“春日...
    開封第一講書人閱讀 30,757評論 0 21
  • 文/蒼蘭香墨 我抬頭看了看天上的太陽。三九已至盗忱,卻和暖如春酱床,著一層夾襖步出監(jiān)牢的瞬間趟佃,已是汗流浹背扇谣。 一陣腳步聲響...
    開封第一講書人閱讀 31,991評論 1 266
  • 我被黑心中介騙來泰國打工闲昭, 沒想到剛下飛機就差點兒被人妖公主榨干…… 1. 我叫王不留,地道東北人汤纸。 一個月前我還...
    沈念sama閱讀 46,370評論 2 360
  • 正文 我出身青樓,卻偏偏與公主長得像,于是被迫代替她去往敵國和親楞慈。 傳聞我的和親對象是個殘疾皇子幔烛,可洞房花燭夜當(dāng)晚...
    茶點故事閱讀 43,527評論 2 349

推薦閱讀更多精彩內(nèi)容

  • 夜很深了聚霜,我輾轉(zhuǎn)難眠狡恬!楊醫(yī)生約我下午去醫(yī)院蝎宇,可我到醫(yī)院時卻被告知他開會去了!護士員囑咐要我第二天再來姥芥。我忐忑不安兔乞,...
    追隨花開閱讀 396評論 0 2
  • 距離六級考試只有不到一天時間了凉唐,四級只有一晚上了….如何在這么短的時間內(nèi)再提個幾十分呢庸追!好的台囱,看這一篇攻略就足夠了...
    Leeky_閱讀 288評論 0 0
  • 難得想早睡一次,可能是因為太太太早了反而睡不著簿训,不覺間想起老科就已經(jīng)退役一周年了咱娶,時間真是令人猝不及防的東西煎楣,它喜...
    愛吃薯條葉茸茸閱讀 577評論 0 0
  • 很多人不了解你的過去,所以選擇從這一刻開始評價你择懂。你想大聲的辯解,告訴他:不是這樣的另玖。但這種聲音你選擇了在心里默默...
    向上的小豌豆閱讀 68評論 0 1