Linux [buff/cache]內(nèi)存緩存占用過高分析和優(yōu)化

問題現(xiàn)場

查看系統(tǒng)內(nèi)存的使用狀態(tài)


linux-buff-free.jpg

監(jiān)控報警可用內(nèi)存空間不足由缆,常規(guī)的解決方案如下:

  1. 增加內(nèi)存(增加成本)
  2. 增加虛擬內(nèi)存(影響性能)
  3. 定期清理緩存(echo 1 > /proc/sys/vm/drop_caches)

本文將介紹定期清除頁面緩存顽馋,但是過會兒內(nèi)存又被占滿問題的分析。

問題分析

  1. 通過監(jiān)控系統(tǒng)負載情況(vmstat 1)财剖,確定是頁面緩存(cache項)占用量大悠夯,并且釋放頁面緩存后從塊設(shè)備讀入數(shù)據(jù)量(bi項)會馬上增加。
linux-buff-vmstat.jpg
  1. 通過監(jiān)控io情況(iostat -x -k 1)也可以看出
linux-buff-iostat.jpg
  1. 基于此可以猜測是有進程在頻繁的讀取文件導致躺坟,監(jiān)視磁盤I/O使用狀況(iotop -oP)沦补,釋放頁面緩存后有幾個sed命令讀取文件進程占用IO很高。
linux-buff-iotop.jpg
  1. 至此結(jié)合業(yè)務(wù)分析是因為每分鐘讀取日志統(tǒng)計指標導致

擴展知識

/proc/meminfo

查看更詳細的內(nèi)存信息:
$ cat /proc/meminfo |grep -E "Buffer|Cache|Swap|Mem|Shmem|Slab|SReclaimable|SUnreclaim"

linux-buff-meminfo.jpg
  • MemFree:空閑的物理內(nèi)存
  • MemAvailable:可用的物理內(nèi)存咪橙,MemFree+Buffers+Cached
  • Buffers:(Buffer Cache)對磁盤塊設(shè)備數(shù)據(jù)的緩存
  • Cached:(Page Cache)對文件系統(tǒng)上文件數(shù)據(jù)的緩存夕膀,MemFree+SReclaimable
  • SwapTotal:虛擬內(nèi)存,利用磁盤空間虛擬出的一塊邏輯內(nèi)存
  • Slab:Linux內(nèi)存管理機制
  • SReclaimable:Slab可回收部分
  • SUnreclaim:Slab不可回收部分
  • Shmem:進程間共同使用的共享內(nèi)存

/proc/sys/vm/drop_caches

清除緩存策略:
1:清除page cache
2:清除slab分配器中的對象(包括目錄項和inode)
3:清除page cache和slab分配器中的對象

參考

OOM killer及Overcommit
Linux buffer/cache 內(nèi)存占用過高的原因以及解決辦法
Linux查看Buffer&Cache被哪些進程占用

最后編輯于
?著作權(quán)歸作者所有,轉(zhuǎn)載或內(nèi)容合作請聯(lián)系作者
  • 序言:七十年代末美侦,一起剝皮案震驚了整個濱河市产舞,隨后出現(xiàn)的幾起案子,更是在濱河造成了極大的恐慌菠剩,老刑警劉巖易猫,帶你破解...
    沈念sama閱讀 216,651評論 6 501
  • 序言:濱河連續(xù)發(fā)生了三起死亡事件,死亡現(xiàn)場離奇詭異具壮,居然都是意外死亡准颓,警方通過查閱死者的電腦和手機哈蝇,發(fā)現(xiàn)死者居然都...
    沈念sama閱讀 92,468評論 3 392
  • 文/潘曉璐 我一進店門,熙熙樓的掌柜王于貴愁眉苦臉地迎上來攘已,“玉大人炮赦,你說我怎么就攤上這事⊙” “怎么了吠勘?”我有些...
    開封第一講書人閱讀 162,931評論 0 353
  • 文/不壞的土叔 我叫張陵,是天一觀的道長峡眶。 經(jīng)常有香客問我看幼,道長,這世上最難降的妖魔是什么幌陕? 我笑而不...
    開封第一講書人閱讀 58,218評論 1 292
  • 正文 為了忘掉前任,我火速辦了婚禮汽煮,結(jié)果婚禮上搏熄,老公的妹妹穿的比我還像新娘。我一直安慰自己暇赤,他們只是感情好心例,可當我...
    茶點故事閱讀 67,234評論 6 388
  • 文/花漫 我一把揭開白布。 她就那樣靜靜地躺著鞋囊,像睡著了一般止后。 火紅的嫁衣襯著肌膚如雪。 梳的紋絲不亂的頭發(fā)上溜腐,一...
    開封第一講書人閱讀 51,198評論 1 299
  • 那天译株,我揣著相機與錄音,去河邊找鬼挺益。 笑死歉糜,一個胖子當著我的面吹牛,可吹牛的內(nèi)容都是我干的望众。 我是一名探鬼主播匪补,決...
    沈念sama閱讀 40,084評論 3 418
  • 文/蒼蘭香墨 我猛地睜開眼,長吁一口氣:“原來是場噩夢啊……” “哼烂翰!你這毒婦竟也來了夯缺?” 一聲冷哼從身側(cè)響起,我...
    開封第一講書人閱讀 38,926評論 0 274
  • 序言:老撾萬榮一對情侶失蹤甘耿,失蹤者是張志新(化名)和其女友劉穎踊兜,沒想到半個月后,有當?shù)厝嗽跇淞掷锇l(fā)現(xiàn)了一具尸體棵里,經(jīng)...
    沈念sama閱讀 45,341評論 1 311
  • 正文 獨居荒郊野嶺守林人離奇死亡润文,尸身上長有42處帶血的膿包…… 初始之章·張勛 以下內(nèi)容為張勛視角 年9月15日...
    茶點故事閱讀 37,563評論 2 333
  • 正文 我和宋清朗相戀三年姐呐,在試婚紗的時候發(fā)現(xiàn)自己被綠了。 大學時的朋友給我發(fā)了我未婚夫和他白月光在一起吃飯的照片典蝌。...
    茶點故事閱讀 39,731評論 1 348
  • 序言:一個原本活蹦亂跳的男人離奇死亡曙砂,死狀恐怖,靈堂內(nèi)的尸體忽然破棺而出骏掀,到底是詐尸還是另有隱情鸠澈,我是刑警寧澤,帶...
    沈念sama閱讀 35,430評論 5 343
  • 正文 年R本政府宣布截驮,位于F島的核電站笑陈,受9級特大地震影響,放射性物質(zhì)發(fā)生泄漏葵袭。R本人自食惡果不足惜涵妥,卻給世界環(huán)境...
    茶點故事閱讀 41,036評論 3 326
  • 文/蒙蒙 一、第九天 我趴在偏房一處隱蔽的房頂上張望坡锡。 院中可真熱鬧蓬网,春花似錦、人聲如沸鹉勒。這莊子的主人今日做“春日...
    開封第一講書人閱讀 31,676評論 0 22
  • 文/蒼蘭香墨 我抬頭看了看天上的太陽禽额。三九已至锯厢,卻和暖如春,著一層夾襖步出監(jiān)牢的瞬間脯倒,已是汗流浹背实辑。 一陣腳步聲響...
    開封第一講書人閱讀 32,829評論 1 269
  • 我被黑心中介騙來泰國打工, 沒想到剛下飛機就差點兒被人妖公主榨干…… 1. 我叫王不留盔憨,地道東北人徙菠。 一個月前我還...
    沈念sama閱讀 47,743評論 2 368
  • 正文 我出身青樓,卻偏偏與公主長得像郁岩,于是被迫代替她去往敵國和親婿奔。 傳聞我的和親對象是個殘疾皇子,可洞房花燭夜當晚...
    茶點故事閱讀 44,629評論 2 354

推薦閱讀更多精彩內(nèi)容