記錄線上數(shù)據(jù)庫CPU飆升到60%的性能優(yōu)化

一讹挎、背景

有一天如筛,dba在數(shù)據(jù)庫告警群找到我,說我們數(shù)據(jù)庫CPU有規(guī)律性的尖刺则涯,qps每次突然增加500+复局,尖刺時(shí)cpu飆升到60%,沒尖刺時(shí)只有5%左右

這種情況對系統(tǒng)造成的穩(wěn)定性風(fēng)險(xiǎn)極高粟判,要我們盡快排查亿昏,盡早排除隱患。下面是當(dāng)時(shí)的數(shù)據(jù)庫qps監(jiān)控

數(shù)據(jù)庫qps情況

二档礁、排查與溝通過程

由于是規(guī)律性的尖刺角钩,我們想到我們的定時(shí)job, 我們業(yè)務(wù)有一個(gè)業(yè)務(wù)配置緩存數(shù)據(jù),通過Java程序的定時(shí)job從數(shù)據(jù)庫加載到本地內(nèi)存的,而且時(shí)間也吻合。

通過查看代碼递礼,我們是一個(gè)單機(jī)的job每,5分鐘加載一次惨险,每臺機(jī)器都是分頁從數(shù)據(jù)庫讀取配置數(shù)據(jù),每次讀取100條脊髓,然后寫到本地的內(nèi)存里辫愉。

這里有兩個(gè)問題,單機(jī)的job和分頁查詢将硝,我們生產(chǎn)環(huán)境有50臺機(jī)器恭朗,這樣查詢db的qps會(huì)放大,造成數(shù)據(jù)庫壓力擴(kuò)大依疼。

和dba進(jìn)行了溝通冀墨,dba給了我們兩條建議:

1、要我們不要分頁查詢涛贯,直接一次性查詢所有的配置數(shù)據(jù)诽嘉。

2、不要用本地緩存弟翘,直接使用redis虫腋,這樣就一份數(shù)據(jù),操作數(shù)據(jù)庫的qps也降低了稀余。

三悦冀、第一次優(yōu)化

由于是c端系統(tǒng),而且業(yè)務(wù)配置緩存是系統(tǒng)的熱點(diǎn)數(shù)據(jù)睛琳,考慮到系統(tǒng)穩(wěn)定性第一盒蟆,我們第一次沒有大的改動(dòng),試圖調(diào)高了分頁的limit大小师骗,觀測數(shù)據(jù)庫的監(jiān)控历等,cpu使用率有下降,但是還是有尖刺,這樣還有慢sql情況辟癌。

第一次優(yōu)化后數(shù)據(jù)庫cpu

四寒屯、第二次優(yōu)化

由于尖刺仍然存在,對數(shù)據(jù)庫還是有一定的壓力黍少,且現(xiàn)在的方案存在優(yōu)化空間寡夹,為了徹底消除數(shù)據(jù)庫隱患,因此我們開始了第二輪優(yōu)化厂置。

我們需要解決的問題:

1菩掏、降低數(shù)據(jù)庫qps,消除cpu尖刺

2昵济、不影響查詢熱點(diǎn)配置數(shù)據(jù)的性能

因?yàn)槊颗_機(jī)器都請求數(shù)據(jù)庫智绸,分頁查詢請求或颊,我們想著降低請求qps,因此我們?nèi)コ瓉磉@種單機(jī)定時(shí)加載緩存方式传于,換成加載緩存到redis囱挑,這樣就只要一臺機(jī)器啟動(dòng)一個(gè)定時(shí)任務(wù)了,這樣可以降低數(shù)據(jù)庫的qps沼溜。由一個(gè)定時(shí)任務(wù)每5分鐘執(zhí)行一次平挑,加載到redis。

不影響原來的查詢性能系草,肯定不能直接查詢r(jià)edis,因此我們引入了本地緩存框架Caffine,本地緩存從redis查詢數(shù)據(jù)通熄。這樣就形成了二級緩存架構(gòu)

二級緩存架構(gòu)

整個(gè)緩存改造涉及三個(gè)階段:

第一階段:使用xxljob定時(shí)job加載緩存到redis

定時(shí)job加載redis緩存

第二階段:程序啟動(dòng)初次加載緩存找都,加載數(shù)據(jù)到本地緩存

單機(jī)應(yīng)用啟動(dòng)時(shí)加載緩存

第三階段:Caffine緩存未命中場景唇辨,單線程從緩存或者數(shù)據(jù)庫加載

緩存查詢流程

五、測試與上線流程

這次屬于技術(shù)升級能耻,需要測試回歸相關(guān)業(yè)務(wù)才能上線赏枚,整體測試與上線流程如下:

  • 1、測試回歸業(yè)務(wù)功能晓猛,開關(guān)驗(yàn)證

  • 2饿幅、灰度驗(yàn)證

  • 3、分機(jī)器發(fā)布

  • 4戒职、全量發(fā)布

先發(fā)布一臺機(jī)器節(jié)點(diǎn)栗恩,觀測了幾天業(yè)務(wù)情況,觀測沒問題之后再分批次發(fā)布洪燥,直到所有機(jī)器節(jié)點(diǎn)發(fā)布完成磕秤。

六、最終效果

經(jīng)過優(yōu)化上線捧韵,數(shù)據(jù)庫的qps和cpu使用率下來了市咆,也沒有了尖刺,徹底消除了數(shù)據(jù)庫隱患纫版。

優(yōu)化最終結(jié)果

七床绪、總結(jié)

數(shù)據(jù)庫是業(yè)務(wù)系統(tǒng)強(qiáng)依賴的中間件,保障其穩(wěn)定性至關(guān)重要其弊,本文是根據(jù)實(shí)際性能優(yōu)化經(jīng)驗(yàn),從架構(gòu)設(shè)計(jì)代碼層面優(yōu)化數(shù)據(jù)庫的使用膀斋,降低數(shù)據(jù)庫qps和cpu使用率梭伐,提高數(shù)據(jù)庫的穩(wěn)定性

通過這次優(yōu)化實(shí)踐仰担,給以后業(yè)務(wù)功能的設(shè)計(jì)開發(fā)也有一定的啟發(fā)糊识,一個(gè)好的方案設(shè)計(jì)可以避免系統(tǒng)風(fēng)險(xiǎn)绩社,提高資源利用率,作為程序員可以利用每次新功能的設(shè)計(jì)開發(fā)經(jīng)驗(yàn)赂苗,不斷的積累比較好的方案愉耙,提升我們自身的能力。

堅(jiān)持相信有輸入一定要有輸出拌滋,加油朴沿。

最后編輯于
?著作權(quán)歸作者所有,轉(zhuǎn)載或內(nèi)容合作請聯(lián)系作者
  • 序言:七十年代末,一起剝皮案震驚了整個(gè)濱河市败砂,隨后出現(xiàn)的幾起案子赌渣,更是在濱河造成了極大的恐慌,老刑警劉巖昌犹,帶你破解...
    沈念sama閱讀 222,378評論 6 516
  • 序言:濱河連續(xù)發(fā)生了三起死亡事件坚芜,死亡現(xiàn)場離奇詭異,居然都是意外死亡斜姥,警方通過查閱死者的電腦和手機(jī)鸿竖,發(fā)現(xiàn)死者居然都...
    沈念sama閱讀 94,970評論 3 399
  • 文/潘曉璐 我一進(jìn)店門,熙熙樓的掌柜王于貴愁眉苦臉地迎上來铸敏,“玉大人千贯,你說我怎么就攤上這事「惆樱” “怎么了搔谴?”我有些...
    開封第一講書人閱讀 168,983評論 0 362
  • 文/不壞的土叔 我叫張陵,是天一觀的道長桩撮。 經(jīng)常有香客問我敦第,道長,這世上最難降的妖魔是什么店量? 我笑而不...
    開封第一講書人閱讀 59,938評論 1 299
  • 正文 為了忘掉前任芜果,我火速辦了婚禮,結(jié)果婚禮上融师,老公的妹妹穿的比我還像新娘右钾。我一直安慰自己,他們只是感情好旱爆,可當(dāng)我...
    茶點(diǎn)故事閱讀 68,955評論 6 398
  • 文/花漫 我一把揭開白布舀射。 她就那樣靜靜地躺著,像睡著了一般怀伦。 火紅的嫁衣襯著肌膚如雪脆烟。 梳的紋絲不亂的頭發(fā)上,一...
    開封第一講書人閱讀 52,549評論 1 312
  • 那天房待,我揣著相機(jī)與錄音邢羔,去河邊找鬼驼抹。 笑死,一個(gè)胖子當(dāng)著我的面吹牛拜鹤,可吹牛的內(nèi)容都是我干的框冀。 我是一名探鬼主播,決...
    沈念sama閱讀 41,063評論 3 422
  • 文/蒼蘭香墨 我猛地睜開眼敏簿,長吁一口氣:“原來是場噩夢啊……” “哼明也!你這毒婦竟也來了?” 一聲冷哼從身側(cè)響起极谊,我...
    開封第一講書人閱讀 39,991評論 0 277
  • 序言:老撾萬榮一對情侶失蹤诡右,失蹤者是張志新(化名)和其女友劉穎,沒想到半個(gè)月后轻猖,有當(dāng)?shù)厝嗽跇淞掷锇l(fā)現(xiàn)了一具尸體帆吻,經(jīng)...
    沈念sama閱讀 46,522評論 1 319
  • 正文 獨(dú)居荒郊野嶺守林人離奇死亡,尸身上長有42處帶血的膿包…… 初始之章·張勛 以下內(nèi)容為張勛視角 年9月15日...
    茶點(diǎn)故事閱讀 38,604評論 3 342
  • 正文 我和宋清朗相戀三年咙边,在試婚紗的時(shí)候發(fā)現(xiàn)自己被綠了猜煮。 大學(xué)時(shí)的朋友給我發(fā)了我未婚夫和他白月光在一起吃飯的照片。...
    茶點(diǎn)故事閱讀 40,742評論 1 353
  • 序言:一個(gè)原本活蹦亂跳的男人離奇死亡败许,死狀恐怖王带,靈堂內(nèi)的尸體忽然破棺而出,到底是詐尸還是另有隱情市殷,我是刑警寧澤愕撰,帶...
    沈念sama閱讀 36,413評論 5 351
  • 正文 年R本政府宣布,位于F島的核電站醋寝,受9級特大地震影響搞挣,放射性物質(zhì)發(fā)生泄漏。R本人自食惡果不足惜音羞,卻給世界環(huán)境...
    茶點(diǎn)故事閱讀 42,094評論 3 335
  • 文/蒙蒙 一囱桨、第九天 我趴在偏房一處隱蔽的房頂上張望。 院中可真熱鬧嗅绰,春花似錦舍肠、人聲如沸。這莊子的主人今日做“春日...
    開封第一講書人閱讀 32,572評論 0 25
  • 文/蒼蘭香墨 我抬頭看了看天上的太陽。三九已至民镜,卻和暖如春啡专,著一層夾襖步出監(jiān)牢的瞬間,已是汗流浹背制圈。 一陣腳步聲響...
    開封第一講書人閱讀 33,671評論 1 274
  • 我被黑心中介騙來泰國打工们童, 沒想到剛下飛機(jī)就差點(diǎn)兒被人妖公主榨干…… 1. 我叫王不留,地道東北人鲸鹦。 一個(gè)月前我還...
    沈念sama閱讀 49,159評論 3 378
  • 正文 我出身青樓慧库,卻偏偏與公主長得像,于是被迫代替她去往敵國和親馋嗜。 傳聞我的和親對象是個(gè)殘疾皇子齐板,可洞房花燭夜當(dāng)晚...
    茶點(diǎn)故事閱讀 45,747評論 2 361