Yarn

Yarn本質及機制

Yarn是一個資源管理和調度的框架.主要進程包括:ResourceManager,NodeManager.

ResourceManager將各個資源部分(計算木蹬、內存绽昏、帶寬等)精心安排給NodeManager(Yarn分布在各節(jié)點上的進程)。ApplicationMaster(應用程序)管理一個在 Yarn 內運行的應用程序的每個實例缘琅。ApplicationMaster 負責協(xié)調來自 ResourceManager的資源缩宜,并通過 NodeManager 監(jiān)視容器的執(zhí)行和資源使用(CPU肘迎、內存等的資源分配).

Yarn是一個集群,所以在各個節(jié)點上都需配置.也算一個配置型框架.

Yarn之ResourceManager

在YARN中,ResourceManager負責集群中所有資源的統(tǒng)一管理和分配锻煌,它接收來自各個節(jié)點(NodeManager)的資源匯報信息妓布,并把這些信息按照一定的策略分配給各ApplicationManager(應用程序)。

Yarn之NodeManager

NodeManager是Yarn在每個節(jié)點上的代理進程,主要包括與ResourceManger保持通信宋梧,監(jiān)督Container的生命周期管理匣沼,監(jiān)控每個Container的資源使用(內存、CPU等)情況捂龄,追蹤節(jié)點健康狀況释涛,管理日志和不同應用程序用到的附屬服務.

Container:對任務運行環(huán)境的抽象加叁,封裝了CPU、內存等多維資源以及環(huán)境變量唇撬、啟動命令等任務運行相關的信息

Yarn的HA配置

Yarn參數

注:配置Yarn之前,hadoop,JDK啥得得配置好,能夠正常運行!

配置NodeManager

<property>

<name>yarn.nodemanager.aux-services</name>

<value>mapreduce_shuffle</value>

</property>

啟用ResourceManager HA

<property>

<name>yarn.resourcemanager.ha.enabled</name>

<value>true</value>

</property>

聲明ResourceManager的地址,因為HA,所以配兩個

<property>

<name>yarn.resourcemanager.cluster-id</name>

<value>cluster-yarn1</value>

</property>

<property>

<name>yarn.resourcemanager.ha.rm-ids</name>

<value>rm1,rm2</value>

</property>

<property>

<name>yarn.resourcemanager.hostname.rm1</name>

<value>hadoop102</value>

</property>

<property>

<name>yarn.resourcemanager.hostname.rm2</name>

<value>hadoop103</value>

</property>

配置好之后,啟動hadoop下sbin里面的start-yarn.sh腳本

這是我配置的全路徑: sh /opt/modules/hadoop-2.5.0-cdh5.3.6/sbin/start-yarn.sh

然后在其他各節(jié)點JPS下能夠看到NodeManager,就OK了!

最后編輯于
?著作權歸作者所有,轉載或內容合作請聯(lián)系作者
  • 序言:七十年代末它匕,一起剝皮案震驚了整個濱河市,隨后出現的幾起案子窖认,更是在濱河造成了極大的恐慌豫柬,老刑警劉巖,帶你破解...
    沈念sama閱讀 222,378評論 6 516
  • 序言:濱河連續(xù)發(fā)生了三起死亡事件扑浸,死亡現場離奇詭異烧给,居然都是意外死亡,警方通過查閱死者的電腦和手機喝噪,發(fā)現死者居然都...
    沈念sama閱讀 94,970評論 3 399
  • 文/潘曉璐 我一進店門创夜,熙熙樓的掌柜王于貴愁眉苦臉地迎上來,“玉大人仙逻,你說我怎么就攤上這事驰吓。” “怎么了系奉?”我有些...
    開封第一講書人閱讀 168,983評論 0 362
  • 文/不壞的土叔 我叫張陵檬贰,是天一觀的道長。 經常有香客問我缺亮,道長翁涤,這世上最難降的妖魔是什么? 我笑而不...
    開封第一講書人閱讀 59,938評論 1 299
  • 正文 為了忘掉前任萌踱,我火速辦了婚禮葵礼,結果婚禮上,老公的妹妹穿的比我還像新娘并鸵。我一直安慰自己鸳粉,他們只是感情好,可當我...
    茶點故事閱讀 68,955評論 6 398
  • 文/花漫 我一把揭開白布园担。 她就那樣靜靜地躺著届谈,像睡著了一般。 火紅的嫁衣襯著肌膚如雪弯汰。 梳的紋絲不亂的頭發(fā)上艰山,一...
    開封第一講書人閱讀 52,549評論 1 312
  • 那天,我揣著相機與錄音咏闪,去河邊找鬼曙搬。 笑死,一個胖子當著我的面吹牛,可吹牛的內容都是我干的纵装。 我是一名探鬼主播征讲,決...
    沈念sama閱讀 41,063評論 3 422
  • 文/蒼蘭香墨 我猛地睜開眼,長吁一口氣:“原來是場噩夢啊……” “哼搂擦!你這毒婦竟也來了稳诚?” 一聲冷哼從身側響起哗脖,我...
    開封第一講書人閱讀 39,991評論 0 277
  • 序言:老撾萬榮一對情侶失蹤瀑踢,失蹤者是張志新(化名)和其女友劉穎,沒想到半個月后才避,有當地人在樹林里發(fā)現了一具尸體橱夭,經...
    沈念sama閱讀 46,522評論 1 319
  • 正文 獨居荒郊野嶺守林人離奇死亡,尸身上長有42處帶血的膿包…… 初始之章·張勛 以下內容為張勛視角 年9月15日...
    茶點故事閱讀 38,604評論 3 342
  • 正文 我和宋清朗相戀三年桑逝,在試婚紗的時候發(fā)現自己被綠了棘劣。 大學時的朋友給我發(fā)了我未婚夫和他白月光在一起吃飯的照片。...
    茶點故事閱讀 40,742評論 1 353
  • 序言:一個原本活蹦亂跳的男人離奇死亡楞遏,死狀恐怖茬暇,靈堂內的尸體忽然破棺而出,到底是詐尸還是另有隱情寡喝,我是刑警寧澤糙俗,帶...
    沈念sama閱讀 36,413評論 5 351
  • 正文 年R本政府宣布,位于F島的核電站预鬓,受9級特大地震影響巧骚,放射性物質發(fā)生泄漏。R本人自食惡果不足惜格二,卻給世界環(huán)境...
    茶點故事閱讀 42,094評論 3 335
  • 文/蒙蒙 一劈彪、第九天 我趴在偏房一處隱蔽的房頂上張望。 院中可真熱鬧顶猜,春花似錦沧奴、人聲如沸。這莊子的主人今日做“春日...
    開封第一講書人閱讀 32,572評論 0 25
  • 文/蒼蘭香墨 我抬頭看了看天上的太陽。三九已至抄淑,卻和暖如春屠凶,著一層夾襖步出監(jiān)牢的瞬間,已是汗流浹背肆资。 一陣腳步聲響...
    開封第一講書人閱讀 33,671評論 1 274
  • 我被黑心中介騙來泰國打工矗愧, 沒想到剛下飛機就差點兒被人妖公主榨干…… 1. 我叫王不留,地道東北人。 一個月前我還...
    沈念sama閱讀 49,159評論 3 378
  • 正文 我出身青樓唉韭,卻偏偏與公主長得像夜涕,于是被迫代替她去往敵國和親。 傳聞我的和親對象是個殘疾皇子属愤,可洞房花燭夜當晚...
    茶點故事閱讀 45,747評論 2 361

推薦閱讀更多精彩內容