假日期間常見的數(shù)據(jù)庫磁盤空間處理小結

? 數(shù)據(jù)庫的報警可以拆分為很多類別,但是有一點是無論如何都跑不掉的纷妆,而且花樣百出,那就是磁盤空間報警晴弃。

? 在我的認知中掩幢,磁盤空間報警可以從上向下,從下向上的看待上鞠,如果從下向上看待际邻,磁盤空間類報警的處理方法相對比較簡單,只要分析了空間使用瓶頸旗国,合理處理是按部就班的事情枯怖,重復度較高,難度適中能曾,見效快度硝。而從上向下看待,磁盤空間類報警是我們必須要搞定的一場硬仗寿冕,因為系統(tǒng)類報警蕊程,CPU,內(nèi)存驼唱,磁盤藻茂,其中CPU,內(nèi)存類報警的原因都不太明朗,需要做更進一步的分析,而處理方法則需要結合業(yè)務的改造或者系統(tǒng)層面的調(diào)整優(yōu)化才能見效辨赐,磁盤類報警則相對來說屬于性價比較高的优俘,對于運維側的需求則需要更進一步,那就是在重復度掀序,復雜度的平衡中找到一種普適的處理辦法帆焕,能夠將這部分工作逐步的通過自動化方式處理,也就是從處理故障變?yōu)楣收献杂J健?

在節(jié)假日碰到磁盤報警是一種煎熬不恭,如果已經(jīng)在旅行途中叶雹,收到一條報警短信就像吃了蒼蠅一樣難受,大體有如下的一些處理方式:

一.系統(tǒng)層預處理:

在節(jié)假日前换吧,我們一般會做兩類工作:

第一類是做系統(tǒng)的全面巡檢折晦,主要涉及如下的幾個指標,我們會匯總為一個指標巡檢大盤:

1)磁盤空間使用率沾瓦,拆分為根目錄使用率和數(shù)據(jù)目錄使用率

2)內(nèi)存使用率

3)CPU使用率

4)inode使用率

5)系統(tǒng)負載情況

6)數(shù)據(jù)庫延遲

這份指標能夠發(fā)現(xiàn)絕大多數(shù)明顯的問題满着,基本掃清之后就能夠杜絕大部分的隱患。?


第二類工作暴拄,我們會把監(jiān)控報警的閾值降低漓滔,比如磁盤空間的閾值為80%~85%左右,一般會降為75%左右乖篷,這樣可以把一部分潛在的隱患也一并處理掉。?

如此一來能夠杜絕大部分硬傷的報警透且,當然這個工作的潛在問題就是人工干預較為明顯撕蔼,如果能夠做自動適配和指標回置,整個過程會更加有彈性秽誊。?


二.系統(tǒng)層處理

系統(tǒng)層處理的硬傷問題相對比較少鲸沮,主要碰到幾類:

1)查看系統(tǒng)層的空間使用異常,但是進程沒有釋放相關的句柄锅论,導致空間沒有徹底釋放讼溺。?

比如一個nohup任務生成的日志比較大,我們手工刪除了生成的日志文件最易,但是空間卻沒有釋放怒坯,一般來說,可以使用lsof來得到相關的句柄的明細藻懒,也可以看到磁盤空間占用較高的文件對應的進程剔猿,順著這條線分析,

常用的命令為:lsof|grep deleted 嬉荆,即可查找相關的進程

2)inode異常归敬,inode異常會導致很多奇怪的問題,比如數(shù)據(jù)分區(qū)無法寫入文件,數(shù)據(jù)庫無法登陸等汪茧,有一部分原因是crontab產(chǎn)生的大量碎片文件導致椅亚,可以通過如下的路徑:

/var/spool/postfix/maildrop

/var/spool/clientmqueue/

來進行快速的清理。

如果文件較多舱污,可以使用xargs分批刪除

# ls -l 2020*|wc -l

-bash: /bin/ls: Argument list too long

0

可以采用-n選項

ls | xargs -n 20 rm -f

如果數(shù)量達到一定程度依然會報錯什往,可以使用find+xargs的組合方式。?

如下效果較為穩(wěn)定,可以根據(jù)find的通配模式進行匹配清理奔脐。

find . -name "20200825*" | xargs rm -f '20200825*'



三.數(shù)據(jù)庫層處理

數(shù)據(jù)庫層的清理可做的空間相對比較大铜幽,前提是你給自己預留的空間要足夠大,否則坑足夠大處理起來會比較糾結省古。


1)binlog配置和清理

binlog的配置主要有參數(shù)expire_logs_days控制,如果出現(xiàn)空間問題丧失,而且我們確認了主從復制等基本配置豺妓,就可以調(diào)整expire_logs_days的配置,比如從7天調(diào)整為3天等布讹。

如果binlog在短時間內(nèi)產(chǎn)生的數(shù)量比較大琳拭,參數(shù)的控制已經(jīng)滿足不了了,則可以使用purge binary logs to 'xxx'的方式進行快速處理描验,當然處理的核心都是主從延遲情況白嘁。?

如果因為主從延遲較大,則可以專注于處理延遲的一些臨時配置膘流,比如雙1配置調(diào)整絮缅,并行復制線程等配置。

2)回收站

數(shù)據(jù)庫回收站模式在MySQL中是沒有的呼股,不代表我們不需要做耕魄,有很多敏感的數(shù)據(jù)清理任務造成的影響都具有延遲性,比如數(shù)據(jù)清理之后幾天之后業(yè)務側需要用的時候才會找過來彭谁,當然這個過程的敏感度可以更快一些吸奴,但是不能作為我們無法處理的借口。

數(shù)據(jù)庫的回收站在MySQL的基本原理就是移形換位缠局,把一張表通過renmae的方式快速的轉移到一個獨立的歸檔庫下面则奥,比如test_arch,在這個數(shù)據(jù)庫中的表可以按照時間順序進行數(shù)據(jù)清理甩鳄,這樣表中的數(shù)據(jù)就可以保存的時間就更長了逞度,我印象中處理最長的數(shù)據(jù)是一個月,整個恢復的工作都是秒級妙啃,著實讓業(yè)務同學目瞪口呆档泽。

?3)InnoDB表格式row_format修改為compressed

如果有些數(shù)據(jù)表存放的是日志數(shù)據(jù)俊戳,而且日志數(shù)據(jù)出現(xiàn)了爆發(fā)式增長,那么一種快速的適配方法就是使用compressed的數(shù)據(jù)格式馆匿,經(jīng)過測試抑胎,在有些場景下的壓縮率達到了近50%,而且查取效率依然很高渐北,對于存儲方面的收益更高阿逃,比如一個業(yè)務的數(shù)據(jù)保留需要控制在2個月,一種方式是擴容一倍的存儲空間赃蛛,一種是開啟compressed模式恃锉,在我們已驗證的業(yè)務場景中算是取得了初步的效果。?

你們還有什么方法可以避免磁盤空間類問題的窘狀呕臂,歡迎留言破托。


?著作權歸作者所有,轉載或內(nèi)容合作請聯(lián)系作者
  • 序言:七十年代末,一起剝皮案震驚了整個濱河市歧蒋,隨后出現(xiàn)的幾起案子土砂,更是在濱河造成了極大的恐慌,老刑警劉巖谜洽,帶你破解...
    沈念sama閱讀 212,718評論 6 492
  • 序言:濱河連續(xù)發(fā)生了三起死亡事件萝映,死亡現(xiàn)場離奇詭異,居然都是意外死亡阐虚,警方通過查閱死者的電腦和手機序臂,發(fā)現(xiàn)死者居然都...
    沈念sama閱讀 90,683評論 3 385
  • 文/潘曉璐 我一進店門,熙熙樓的掌柜王于貴愁眉苦臉地迎上來敌呈,“玉大人贸宏,你說我怎么就攤上這事】暮椋” “怎么了?”我有些...
    開封第一講書人閱讀 158,207評論 0 348
  • 文/不壞的土叔 我叫張陵诫龙,是天一觀的道長析显。 經(jīng)常有香客問我,道長签赃,這世上最難降的妖魔是什么谷异? 我笑而不...
    開封第一講書人閱讀 56,755評論 1 284
  • 正文 為了忘掉前任,我火速辦了婚禮锦聊,結果婚禮上歹嘹,老公的妹妹穿的比我還像新娘。我一直安慰自己孔庭,他們只是感情好尺上,可當我...
    茶點故事閱讀 65,862評論 6 386
  • 文/花漫 我一把揭開白布材蛛。 她就那樣靜靜地躺著,像睡著了一般怎抛。 火紅的嫁衣襯著肌膚如雪卑吭。 梳的紋絲不亂的頭發(fā)上,一...
    開封第一講書人閱讀 50,050評論 1 291
  • 那天马绝,我揣著相機與錄音豆赏,去河邊找鬼。 笑死富稻,一個胖子當著我的面吹牛掷邦,可吹牛的內(nèi)容都是我干的。 我是一名探鬼主播椭赋,決...
    沈念sama閱讀 39,136評論 3 410
  • 文/蒼蘭香墨 我猛地睜開眼抚岗,長吁一口氣:“原來是場噩夢啊……” “哼!你這毒婦竟也來了纹份?” 一聲冷哼從身側響起苟跪,我...
    開封第一講書人閱讀 37,882評論 0 268
  • 序言:老撾萬榮一對情侶失蹤,失蹤者是張志新(化名)和其女友劉穎蔓涧,沒想到半個月后件已,有當?shù)厝嗽跇淞掷锇l(fā)現(xiàn)了一具尸體,經(jīng)...
    沈念sama閱讀 44,330評論 1 303
  • 正文 獨居荒郊野嶺守林人離奇死亡元暴,尸身上長有42處帶血的膿包…… 初始之章·張勛 以下內(nèi)容為張勛視角 年9月15日...
    茶點故事閱讀 36,651評論 2 327
  • 正文 我和宋清朗相戀三年篷扩,在試婚紗的時候發(fā)現(xiàn)自己被綠了。 大學時的朋友給我發(fā)了我未婚夫和他白月光在一起吃飯的照片茉盏。...
    茶點故事閱讀 38,789評論 1 341
  • 序言:一個原本活蹦亂跳的男人離奇死亡鉴未,死狀恐怖,靈堂內(nèi)的尸體忽然破棺而出鸠姨,到底是詐尸還是另有隱情铜秆,我是刑警寧澤,帶...
    沈念sama閱讀 34,477評論 4 333
  • 正文 年R本政府宣布讶迁,位于F島的核電站连茧,受9級特大地震影響,放射性物質發(fā)生泄漏巍糯。R本人自食惡果不足惜啸驯,卻給世界環(huán)境...
    茶點故事閱讀 40,135評論 3 317
  • 文/蒙蒙 一、第九天 我趴在偏房一處隱蔽的房頂上張望祟峦。 院中可真熱鬧罚斗,春花似錦、人聲如沸宅楞。這莊子的主人今日做“春日...
    開封第一講書人閱讀 30,864評論 0 21
  • 文/蒼蘭香墨 我抬頭看了看天上的太陽。三九已至搓幌,卻和暖如春杆故,著一層夾襖步出監(jiān)牢的瞬間,已是汗流浹背溉愁。 一陣腳步聲響...
    開封第一講書人閱讀 32,099評論 1 267
  • 我被黑心中介騙來泰國打工处铛, 沒想到剛下飛機就差點兒被人妖公主榨干…… 1. 我叫王不留,地道東北人拐揭。 一個月前我還...
    沈念sama閱讀 46,598評論 2 362
  • 正文 我出身青樓撤蟆,卻偏偏與公主長得像,于是被迫代替她去往敵國和親堂污。 傳聞我的和親對象是個殘疾皇子家肯,可洞房花燭夜當晚...
    茶點故事閱讀 43,697評論 2 351