Capacity Scheduler 隊列設(shè)置

先附一個官網(wǎng)地址


Capacity Scheduler是YARN中默認(rèn)的資源調(diào)度器疫铜。

  1. 相關(guān)參數(shù)配置:
  1. 資源分配相關(guān)參數(shù)
(1) capacity:隊列的資源容量(百分比)刘急。 當(dāng)系統(tǒng)非常繁忙時柳刮,應(yīng)保證每個隊列的容量得到滿足,而如果每個隊列應(yīng)用程序較少假残,可將剩余資源共享給其他隊列米间。
    注意,所有隊列的容量之和應(yīng)小于100栅隐。
(2) maximum-capacity:隊列的資源使用上限(百分比)塔嬉。由于存在資源共享,因此一個隊列使用的資源量可能超過其容量租悄,而最多使用資源量可通過該參數(shù)限制谨究。
(3) minimum-user-limit-percent:每個用戶最低資源保障(百分比)。任何時刻恰矩,一個隊列中每個用戶可使用的資源量均有一定的限制记盒。
    當(dāng)一個隊列中同時運行多個用戶的應(yīng)用程序時中,每個用戶的使用資源量在一個最小值和最大值之間浮動外傅,其中纪吮,最小值取決于正在運行的應(yīng)用程序數(shù)目,
    而最大值則由minimum-user-limit-percent決定萎胰。比如碾盟,假設(shè)minimum-user-limit-percent為25。當(dāng)兩個用戶向該隊列提交應(yīng)用程序時技竟,每個用戶可使用資源量
    不能超過50%冰肴,如果三個用戶提交應(yīng)用程序,則每個用戶可使用資源量不能超多33%,如果四個或者更多用戶提交應(yīng)用程序熙尉,則每個用戶可用資源量不能超過25%联逻。
(4) user-limit-factor:決定每個用戶可使用的資源是否可以超過隊列的資源,如果是1.2則表示可用的資源量是隊列資源的1.2倍检痰。
  1. 限制應(yīng)用程序數(shù)目相關(guān)參數(shù)
(1) maximum-applications :集群或者隊列中同時處于等待和運行狀態(tài)的應(yīng)用程序數(shù)目上限包归,這是一個強限制,一旦集群中應(yīng)用程序數(shù)目超過該上限铅歼,
    后續(xù)提交的應(yīng)用程序?qū)⒈痪芙^公壤,默認(rèn)值為10000。所有隊列的數(shù)目上限可通過參數(shù)yarn.scheduler.capacity.maximum-applications設(shè)置(可看做默認(rèn)值)椎椰,
    而單個隊列可通過參數(shù)yarn.scheduler.capacity.<queue-path>.maximum-applications設(shè)置適合自己的值厦幅。
(2) maximum-am-resource-percent:集群中用于運行應(yīng)用程序ApplicationMaster的資源比例上限,該參數(shù)通常用于限制處于活動狀態(tài)的應(yīng)用程序數(shù)目慨飘。
    該參數(shù)類型為浮點型确憨,默認(rèn)是0.1,表示10%套媚。所有隊列的ApplicationMaster資源比例上限可通過參數(shù)yarn.scheduler.capacity.maximum-am-resource-percent設(shè)置   
    (可看做默認(rèn)值)缚态,而單個隊列可通過參數(shù)yarn.scheduler.capacity.<queue-path>. maximum-am-resource-percent設(shè)置適合自己的值。
  1. 隊列訪問和權(quán)限控制參數(shù)
(1) state :隊列狀態(tài)可以為STOPPED或者RUNNING堤瘤,如果一個隊列處于STOPPED狀態(tài)玫芦,用戶不可以將應(yīng)用程序提交到該隊列或者它的子隊列中,類似的本辐,
    如果ROOT隊列處于STOPPED狀態(tài)桥帆,用戶不可以向集群中提交應(yīng)用程序,但正在運行的應(yīng)用程序仍可以正常運行結(jié)束慎皱,以便隊列可以優(yōu)雅地退出老虫。
(2) acl_submit_applications:限定哪些Linux用戶/用戶組可向給定隊列中提交應(yīng)用程序。需要注意的是茫多,該屬性具有繼承性祈匙,
    即如果一個用戶可以向某個隊列中提交應(yīng)用程序,則它可以向它的所有子隊列中提交應(yīng)用程序天揖。配置該屬性時夺欲,
    用戶之間或用戶組之間用“,”分割今膊,用戶和用戶組之間用空格分割些阅,比如“user1, user2 group1,group2”。
(3) acl_administer_queue:為隊列指定一個管理員斑唬,該管理員可控制該隊列的所有應(yīng)用程序市埋,比如殺死任意一個應(yīng)用程序等黎泣。
    同樣,該屬性具有繼承性缤谎,如果一個用戶可以向某個隊列中提交應(yīng)用程序抒倚,則它可以向它的所有子隊列中提交應(yīng)用程序。
  1. 實例:
<?xml version="1.0"?>
<configuration>
  <property>
    <name>yarn.scheduler.capacity.root.queues</name>
    <value>default,dev</value>
    <description>root隊列的所有子隊列</description>
  </property>
 
    <!--資源分配相關(guān)參數(shù)-->
  <property>
    <name>yarn.scheduler.capacity.root.dev.capacity</name>
    <value>60</value>
    <description>dev隊列的資源容量</description>
  </property>
 
    <property>
    <name>yarn.scheduler.capacity.root.dev.maximum-capacity</name>
    <value>75</value>
    <description>dev隊列可使用的資源上限</description>
  </property>
 
    <property>
    <name>yarn.scheduler.capacity.root.dev.user-limit-factor</name>
    <value>1</value>
    <description>決定每個用戶可使用的資源是否可以超過隊列的資源</description>
  </property>
  
  <property>
    <name>yarn.scheduler.capacity.root.dev.minimum-user-limit-percent</name>
    <value>20</value>
    <description>每個用戶最低資源保障</description>
  </property>
 
    <!--限制應(yīng)用程序數(shù)目相關(guān)參數(shù)-->
    <property>
    <name>yarn.scheduler.capacity.root.dev.maximum-applications</name>
    <value>100</value>
    <description>dev隊列最多可同時處于等待和運行狀態(tài)的應(yīng)用程序數(shù)目</description>
  </property>
  
  <property>
    <name>yarn.scheduler.capacity.root.dev.maximum-am-resource-percent</name>
    <value>0.1</value>
    <description>dev隊列可用于運行AM的資源比例上限坷澡,這通常用于限制并發(fā)運行的應(yīng)用程序數(shù)目</description>
  </property>
    
    <!--隊列訪問和權(quán)限控制參數(shù)-->
  <property>
    <name>yarn.scheduler.capacity.root.dev.state</name>
    <value>RUNNING</value>
    <description>dev隊列的狀態(tài)衡便,可以是RUNNING或者STOPPED</description>
  </property>
 
  <property>
    <name>yarn.scheduler.capacity.root.dev.acl_administer_queue</name>
    <value>admin</value>
    <description>為dev隊列指定管理員</description>
  </property>
  
  <property>
    <name>yarn.scheduler.capacity.root.dev.acl_submit_applications</name>
    <value>admin</value>
    <description>限定哪些Linux用戶/用戶組可以向dev隊列提交應(yīng)用程序</description>
  </property>
</configuration>
最后編輯于
?著作權(quán)歸作者所有,轉(zhuǎn)載或內(nèi)容合作請聯(lián)系作者
  • 序言:七十年代末,一起剝皮案震驚了整個濱河市洋访,隨后出現(xiàn)的幾起案子,更是在濱河造成了極大的恐慌谴餐,老刑警劉巖姻政,帶你破解...
    沈念sama閱讀 216,496評論 6 501
  • 序言:濱河連續(xù)發(fā)生了三起死亡事件,死亡現(xiàn)場離奇詭異岂嗓,居然都是意外死亡汁展,警方通過查閱死者的電腦和手機,發(fā)現(xiàn)死者居然都...
    沈念sama閱讀 92,407評論 3 392
  • 文/潘曉璐 我一進店門厌殉,熙熙樓的掌柜王于貴愁眉苦臉地迎上來食绿,“玉大人,你說我怎么就攤上這事公罕∑鹘簦” “怎么了?”我有些...
    開封第一講書人閱讀 162,632評論 0 353
  • 文/不壞的土叔 我叫張陵楼眷,是天一觀的道長铲汪。 經(jīng)常有香客問我,道長罐柳,這世上最難降的妖魔是什么掌腰? 我笑而不...
    開封第一講書人閱讀 58,180評論 1 292
  • 正文 為了忘掉前任,我火速辦了婚禮张吉,結(jié)果婚禮上齿梁,老公的妹妹穿的比我還像新娘。我一直安慰自己肮蛹,他們只是感情好勺择,可當(dāng)我...
    茶點故事閱讀 67,198評論 6 388
  • 文/花漫 我一把揭開白布。 她就那樣靜靜地躺著蔗崎,像睡著了一般酵幕。 火紅的嫁衣襯著肌膚如雪。 梳的紋絲不亂的頭發(fā)上缓苛,一...
    開封第一講書人閱讀 51,165評論 1 299
  • 那天芳撒,我揣著相機與錄音邓深,去河邊找鬼。 笑死笔刹,一個胖子當(dāng)著我的面吹牛芥备,可吹牛的內(nèi)容都是我干的。 我是一名探鬼主播舌菜,決...
    沈念sama閱讀 40,052評論 3 418
  • 文/蒼蘭香墨 我猛地睜開眼萌壳,長吁一口氣:“原來是場噩夢啊……” “哼!你這毒婦竟也來了日月?” 一聲冷哼從身側(cè)響起袱瓮,我...
    開封第一講書人閱讀 38,910評論 0 274
  • 序言:老撾萬榮一對情侶失蹤,失蹤者是張志新(化名)和其女友劉穎爱咬,沒想到半個月后尺借,有當(dāng)?shù)厝嗽跇淞掷锇l(fā)現(xiàn)了一具尸體,經(jīng)...
    沈念sama閱讀 45,324評論 1 310
  • 正文 獨居荒郊野嶺守林人離奇死亡精拟,尸身上長有42處帶血的膿包…… 初始之章·張勛 以下內(nèi)容為張勛視角 年9月15日...
    茶點故事閱讀 37,542評論 2 332
  • 正文 我和宋清朗相戀三年燎斩,在試婚紗的時候發(fā)現(xiàn)自己被綠了。 大學(xué)時的朋友給我發(fā)了我未婚夫和他白月光在一起吃飯的照片蜂绎。...
    茶點故事閱讀 39,711評論 1 348
  • 序言:一個原本活蹦亂跳的男人離奇死亡栅表,死狀恐怖,靈堂內(nèi)的尸體忽然破棺而出师枣,到底是詐尸還是另有隱情怪瓶,我是刑警寧澤,帶...
    沈念sama閱讀 35,424評論 5 343
  • 正文 年R本政府宣布坛吁,位于F島的核電站劳殖,受9級特大地震影響,放射性物質(zhì)發(fā)生泄漏拨脉。R本人自食惡果不足惜哆姻,卻給世界環(huán)境...
    茶點故事閱讀 41,017評論 3 326
  • 文/蒙蒙 一、第九天 我趴在偏房一處隱蔽的房頂上張望玫膀。 院中可真熱鬧矛缨,春花似錦、人聲如沸帖旨。這莊子的主人今日做“春日...
    開封第一講書人閱讀 31,668評論 0 22
  • 文/蒼蘭香墨 我抬頭看了看天上的太陽解阅。三九已至落竹,卻和暖如春,著一層夾襖步出監(jiān)牢的瞬間货抄,已是汗流浹背述召。 一陣腳步聲響...
    開封第一講書人閱讀 32,823評論 1 269
  • 我被黑心中介騙來泰國打工朱转, 沒想到剛下飛機就差點兒被人妖公主榨干…… 1. 我叫王不留,地道東北人积暖。 一個月前我還...
    沈念sama閱讀 47,722評論 2 368
  • 正文 我出身青樓藤为,卻偏偏與公主長得像,于是被迫代替她去往敵國和親夺刑。 傳聞我的和親對象是個殘疾皇子缅疟,可洞房花燭夜當(dāng)晚...
    茶點故事閱讀 44,611評論 2 353

推薦閱讀更多精彩內(nèi)容