Hadoop 集群---系統(tǒng)層面調(diào)優(yōu)

(1)避免使用 swap 分區(qū)

swap 分區(qū)指的系統(tǒng)的物理內(nèi)存不夠用的時(shí)候,把物理內(nèi)存中的一部分空間釋放 出來,以供當(dāng)前運(yùn)行的程序使用奶甘。

通過 vm.swappiness 參數(shù)控制,值閾為 0 ~ 100,值越高說明操作系統(tǒng)內(nèi)核更積極 的將應(yīng)用程序的數(shù)據(jù)交換到磁盤糊肠。

將 Hadoop 守護(hù)進(jìn)程的數(shù)據(jù)交換到磁盤是很危險(xiǎn)的,有可能導(dǎo)致操作超時(shí),所以 一般將改值設(shè)為? 0 厢蒜。

(2)內(nèi)存分配策略

vm.overcommit_memory 的值決定分配策略猬错,值通常為 0, 1 和 2?

0 ? 表示內(nèi)核將檢查是否有足夠的可用內(nèi)存供應(yīng)用進(jìn)程使用;如果有足夠的可用內(nèi)存潘鲫,內(nèi)存申請?jiān)试S礁苗;否則,內(nèi)存申請失敗级解,并把錯誤返回給應(yīng)用進(jìn)程

1 ? 表示內(nèi)核允許分配所有的物理內(nèi)存冒黑,而不管當(dāng)前的內(nèi)存狀態(tài)如何。

2? 表示內(nèi)核允許分配超過所有物理內(nèi)存和交換空間總和的內(nèi)存,并且通過 vm.overcommit_ratio 的值設(shè)置超過的比例, 50 表示超過物理內(nèi)存 50%

建議 vm.overcommit_memory 設(shè)置為 2 ,并調(diào)整 vm.overcommit_ratio

修改 vm.overcommit_memory 的三種方式?

1. 編輯/etc/sysctl.conf勤哗,增加一行 vm.overcommit_memory = 2 ,然后 sysctl -p 使配置文件生效

2. sysctl vm.overcommit_memory = 2

3. echo 2 > /proc/sys/vm/overcommit_memory?

(3)修改 net.core.somaxconn 參數(shù)

net.core.somaxconn 是 Linux 中的一個(gè)內(nèi)核(kernel) 參數(shù)抡爹,表示 socket 監(jiān) 聽的 backlog 上限。

backlog 是 socket 的監(jiān)聽隊(duì)列,當(dāng)一個(gè)請求尚未被處理或建立時(shí),會進(jìn)入 backlog芒划。

而 socket server 可以一次性處理 backlog 中的所有請求,處理后的請求不再 位于監(jiān)聽隊(duì)列中冬竟。

當(dāng) server 處理請求較慢,以至于監(jiān)聽隊(duì)列被填滿后,新來的請求會被拒絕。

修改 net.core.somaxconn 的三種方式:?

1.編輯/etc/sysctl.conf, 增加一行 net.core.somaxconn = 32768 ,然后 sysctl -p 使配置文件生效

2.sysctl -w net.core.somaxconn = 32768

3.echo 32768 >/proc/sys/net/core/somaxconn?

注意

在 core-default.xml 中參數(shù) ipc.server.listen.queue.size 控制 socket server 的監(jiān)聽隊(duì)列長度,即 backlog 長度,默認(rèn)為 128民逼。而 Linux的參數(shù) net.core.somaxconn 默認(rèn)也為 128 ,當(dāng)服務(wù)端(NameNode 或 ResourceManager)繁忙時(shí), 128 是遠(yuǎn)遠(yuǎn)不夠的,這樣需要調(diào)大 backlog泵殴, 建議為大于等于 32768, 并修改 Hadoop 的 ipc.server.listen.queue.size 的 參數(shù)

(4)增大同時(shí)打開文件描述符的上限

(5)禁用文件的訪問時(shí)間

(6)關(guān)閉 THP

THP (Transparent Huge Pages)是管理 Huge Pages 自動化的抽象層, 而 Huge Pages 是大小為 2MB ~ 1GB

的內(nèi)存頁。 在運(yùn)行 Hadoop 作業(yè)時(shí), THP 會引起 CPU 占用率偏高,故需要將其關(guān)閉拼苍。

?著作權(quán)歸作者所有,轉(zhuǎn)載或內(nèi)容合作請聯(lián)系作者
  • 序言:七十年代末笑诅,一起剝皮案震驚了整個(gè)濱河市,隨后出現(xiàn)的幾起案子,更是在濱河造成了極大的恐慌吆你,老刑警劉巖弦叶,帶你破解...
    沈念sama閱讀 219,589評論 6 508
  • 序言:濱河連續(xù)發(fā)生了三起死亡事件,死亡現(xiàn)場離奇詭異妇多,居然都是意外死亡伤哺,警方通過查閱死者的電腦和手機(jī),發(fā)現(xiàn)死者居然都...
    沈念sama閱讀 93,615評論 3 396
  • 文/潘曉璐 我一進(jìn)店門者祖,熙熙樓的掌柜王于貴愁眉苦臉地迎上來立莉,“玉大人,你說我怎么就攤上這事七问◎殉埽” “怎么了?”我有些...
    開封第一講書人閱讀 165,933評論 0 356
  • 文/不壞的土叔 我叫張陵烂瘫,是天一觀的道長媒熊。 經(jīng)常有香客問我,道長坟比,這世上最難降的妖魔是什么芦鳍? 我笑而不...
    開封第一講書人閱讀 58,976評論 1 295
  • 正文 為了忘掉前任,我火速辦了婚禮葛账,結(jié)果婚禮上柠衅,老公的妹妹穿的比我還像新娘。我一直安慰自己籍琳,他們只是感情好菲宴,可當(dāng)我...
    茶點(diǎn)故事閱讀 67,999評論 6 393
  • 文/花漫 我一把揭開白布。 她就那樣靜靜地躺著趋急,像睡著了一般喝峦。 火紅的嫁衣襯著肌膚如雪。 梳的紋絲不亂的頭發(fā)上呜达,一...
    開封第一講書人閱讀 51,775評論 1 307
  • 那天谣蠢,我揣著相機(jī)與錄音,去河邊找鬼查近。 笑死眉踱,一個(gè)胖子當(dāng)著我的面吹牛,可吹牛的內(nèi)容都是我干的霜威。 我是一名探鬼主播谈喳,決...
    沈念sama閱讀 40,474評論 3 420
  • 文/蒼蘭香墨 我猛地睜開眼,長吁一口氣:“原來是場噩夢啊……” “哼戈泼!你這毒婦竟也來了婿禽?” 一聲冷哼從身側(cè)響起赏僧,我...
    開封第一講書人閱讀 39,359評論 0 276
  • 序言:老撾萬榮一對情侶失蹤,失蹤者是張志新(化名)和其女友劉穎谈宛,沒想到半個(gè)月后次哈,有當(dāng)?shù)厝嗽跇淞掷锇l(fā)現(xiàn)了一具尸體,經(jīng)...
    沈念sama閱讀 45,854評論 1 317
  • 正文 獨(dú)居荒郊野嶺守林人離奇死亡吆录,尸身上長有42處帶血的膿包…… 初始之章·張勛 以下內(nèi)容為張勛視角 年9月15日...
    茶點(diǎn)故事閱讀 38,007評論 3 338
  • 正文 我和宋清朗相戀三年,在試婚紗的時(shí)候發(fā)現(xiàn)自己被綠了琼牧。 大學(xué)時(shí)的朋友給我發(fā)了我未婚夫和他白月光在一起吃飯的照片恢筝。...
    茶點(diǎn)故事閱讀 40,146評論 1 351
  • 序言:一個(gè)原本活蹦亂跳的男人離奇死亡,死狀恐怖巨坊,靈堂內(nèi)的尸體忽然破棺而出撬槽,到底是詐尸還是另有隱情,我是刑警寧澤趾撵,帶...
    沈念sama閱讀 35,826評論 5 346
  • 正文 年R本政府宣布侄柔,位于F島的核電站,受9級特大地震影響占调,放射性物質(zhì)發(fā)生泄漏暂题。R本人自食惡果不足惜,卻給世界環(huán)境...
    茶點(diǎn)故事閱讀 41,484評論 3 331
  • 文/蒙蒙 一究珊、第九天 我趴在偏房一處隱蔽的房頂上張望薪者。 院中可真熱鬧,春花似錦剿涮、人聲如沸言津。這莊子的主人今日做“春日...
    開封第一講書人閱讀 32,029評論 0 22
  • 文/蒼蘭香墨 我抬頭看了看天上的太陽悬槽。三九已至,卻和暖如春瞬浓,著一層夾襖步出監(jiān)牢的瞬間初婆,已是汗流浹背。 一陣腳步聲響...
    開封第一講書人閱讀 33,153評論 1 272
  • 我被黑心中介騙來泰國打工瑟蜈, 沒想到剛下飛機(jī)就差點(diǎn)兒被人妖公主榨干…… 1. 我叫王不留烟逊,地道東北人。 一個(gè)月前我還...
    沈念sama閱讀 48,420評論 3 373
  • 正文 我出身青樓铺根,卻偏偏與公主長得像宪躯,于是被迫代替她去往敵國和親。 傳聞我的和親對象是個(gè)殘疾皇子位迂,可洞房花燭夜當(dāng)晚...
    茶點(diǎn)故事閱讀 45,107評論 2 356

推薦閱讀更多精彩內(nèi)容