由Redis客戶端連接數(shù)大小說開去

緣起:

redis.clients.jedis.exceptions.JedisConnectionException:Could not get a resource from the pool

生產(chǎn)環(huán)境的業(yè)務(wù)服務(wù)器報了大量上面的錯誤。Jedis無法從連接池中獲取一個可用的連接,所有客戶端與Redis服務(wù)端保持通信的連接都在工作中没龙,沒有閑置的連接可以使用顽分。

? ? ? ?目前生產(chǎn)環(huán)境每天Redis的QPS在5000左右其徙,連接池配置20個最大連接數(shù)貌似是真的很小鳍侣,是不是增大連接池的配置就解決問題了?出現(xiàn)這個問題的根本原因是:連接池中的Jedis對象是有限的肥卡,如果Jedis一直被占用抵栈,沒有歸還告材,如果這時需要操作redis,就需要等待可用的Jedis古劲,當?shù)却龝r間超過maxWaitMillis斥赋,就會拋出could not get a resource from pool。以下幾種場景會出現(xiàn)這個問題:

1.并發(fā)實在太高了产艾,連接池中的連接數(shù)確實太小了疤剑,大量的請求等待空閑的連接。

2.由于Redis是單線程闷堡,某個查詢太慢隘膘,阻塞了其他操作命令的執(zhí)行。

3.Redis內(nèi)部問題導(dǎo)致處理客戶端的命令慢了杠览,比如RDB持久化時弯菊,fork進程做內(nèi)存快照;AOF持久化時踱阿,AOF文件重寫時會占用大量的CPU資源误续;

4.大量key同時過期吨悍。

以下數(shù)據(jù)來自于CAT對緩存的監(jiān)控數(shù)據(jù):藍線表示出現(xiàn)Could not get a resource from the pool的次數(shù),綠線表示QPS蹋嵌,從圖中可以看出隨著QPS的升高,出現(xiàn)異常的次數(shù)也在增高葫隙,難道真的是因為QPS高栽烂,連接池數(shù)小的原因?

CAT上按照小時為維度獲取緩存出現(xiàn)異常的數(shù)據(jù)如下:

從以下數(shù)據(jù)可以發(fā)現(xiàn)緩存出現(xiàn)異常的時間段都比較集中恋脚,而且間隔的時間段貌似存在著某種規(guī)律腺办。出現(xiàn)問題的時間段也并不是每天QPS最高的時候,QPS最高的幾個時間段反而沒有出現(xiàn)任何異常糟描。取了一個出現(xiàn)異常的時間段的緩存情況如下

發(fā)現(xiàn)這個時間段有幾個比較耗時的操作命令怀喉,但是這幾個命令在其他時間段最大耗時就10多毫秒。業(yè)務(wù)上也不存在不合理使用Redis數(shù)據(jù)結(jié)構(gòu)的問題船响。是該看看緩存的監(jiān)控情況了(這一部分圖片沒截)躬拢。

? ? ? ?找運維看了Redis的情況,發(fā)現(xiàn)Redis的某個時間段CPU飆到100%了见间,這個時間段和出現(xiàn)異常的時間段吻合聊闯。問題基本已經(jīng)確認,這個時間段Redis內(nèi)部一定發(fā)生了點什么米诉,導(dǎo)致處理客戶端的請求變慢了菱蔬,導(dǎo)致大量的請求被阻塞,超過maxWaitMillis時史侣,集中出現(xiàn)了大量的Could not get a resource from the pool異常拴泌。

? ? ? 生產(chǎn)環(huán)境Redis的持久化策略是AOF,AOF會將所有的寫命令按照一定頻率寫入到日志文件中惊橱,隨著AOF文件越來越大蚪腐,里面會有大部分是重復(fù)命令或者可以合并的命令(比如100次incr = set key 100),重寫可以減少AOF日志尺寸李皇,減少內(nèi)存占用削茁,加快數(shù)據(jù)庫恢復(fù)時間。AOF重寫的過程會fork一個子進程掉房,導(dǎo)致CPU飆到100%了茧跋。在這種情況下即使增大接池連接數(shù)也沒什么卵用。這個問題的解決思路是減少AOF重寫的頻率卓囚,兩種方式:

1瘾杭、讓Redis決定是否做AOF重寫操作,根據(jù)auto-aof-rewrite-percentage和auto-aof-rewrite-min-size兩個參數(shù)哪亿,auto-aof-rewrite-percentage:當前寫入日志文件的大小超過上一次rewrite之后的文件大小的百分之多少時重寫粥烁;auto-aof-rewrite-min-size:當前aof文件大于多少字節(jié)后才觸發(fā)

2贤笆、用crontab定時重寫,命令是:BGREWRITEAOF

上面提到慢查詢會阻塞Redis讨阻,那么業(yè)務(wù)開發(fā)同學(xué)在使用時如何避免呢芥永?

1、避免讓Redis執(zhí)行耗時長的命令钝吮,絕大多數(shù)讀寫命令的時間復(fù)雜度都在O(1)到O(N)之間埋涧,O(1)的命令是安全的,O(N)命令在使用時需要注意奇瘦,如果N的數(shù)量級不可預(yù)知棘催,應(yīng)避免使用,如對一個field數(shù)未知的Hash數(shù)據(jù)執(zhí)行HGETALL/HKEYS/HVALS命令耳标,通常來說這些命令執(zhí)行的很快醇坝,但如果這個Hash中的field數(shù)量極多,耗時就會成倍增長

2次坡、避免在使用這些O(N)命令時發(fā)生問題主要有幾個辦法:不要把List當做列表使用呼猪,僅當做隊列來使用,嚴格控制Hash贸毕、Set郑叠、Sorted Set的大小,將排序明棍、并集乡革、交集等操作放在客戶端執(zhí)行,禁止使用KEYS命令

3摊腋、避免一次性遍歷集合類型的所有成員沸版,而應(yīng)使用SCAN類的命令進行分批的,游標式的遍歷SSCAN/HSCAN/ZSCAN等命令兴蒸,分別用于對Set/Hash/Sorted Set中的元素進行游標式遍歷

4视粮、盡可能使用長連接或連接池,避免頻繁創(chuàng)建銷毀連接橙凳,使用pipelining將連續(xù)執(zhí)行的命令組合執(zhí)行

最后編輯于
?著作權(quán)歸作者所有,轉(zhuǎn)載或內(nèi)容合作請聯(lián)系作者
  • 序言:七十年代末蕾殴,一起剝皮案震驚了整個濱河市,隨后出現(xiàn)的幾起案子岛啸,更是在濱河造成了極大的恐慌钓觉,老刑警劉巖,帶你破解...
    沈念sama閱讀 217,277評論 6 503
  • 序言:濱河連續(xù)發(fā)生了三起死亡事件坚踩,死亡現(xiàn)場離奇詭異荡灾,居然都是意外死亡,警方通過查閱死者的電腦和手機,發(fā)現(xiàn)死者居然都...
    沈念sama閱讀 92,689評論 3 393
  • 文/潘曉璐 我一進店門批幌,熙熙樓的掌柜王于貴愁眉苦臉地迎上來础锐,“玉大人,你說我怎么就攤上這事荧缘〗跃” “怎么了?”我有些...
    開封第一講書人閱讀 163,624評論 0 353
  • 文/不壞的土叔 我叫張陵截粗,是天一觀的道長耀怜。 經(jīng)常有香客問我,道長桐愉,這世上最難降的妖魔是什么? 我笑而不...
    開封第一講書人閱讀 58,356評論 1 293
  • 正文 為了忘掉前任掰派,我火速辦了婚禮从诲,結(jié)果婚禮上,老公的妹妹穿的比我還像新娘靡羡。我一直安慰自己系洛,他們只是感情好,可當我...
    茶點故事閱讀 67,402評論 6 392
  • 文/花漫 我一把揭開白布略步。 她就那樣靜靜地躺著描扯,像睡著了一般。 火紅的嫁衣襯著肌膚如雪趟薄。 梳的紋絲不亂的頭發(fā)上绽诚,一...
    開封第一講書人閱讀 51,292評論 1 301
  • 那天,我揣著相機與錄音杭煎,去河邊找鬼恩够。 笑死,一個胖子當著我的面吹牛羡铲,可吹牛的內(nèi)容都是我干的蜂桶。 我是一名探鬼主播,決...
    沈念sama閱讀 40,135評論 3 418
  • 文/蒼蘭香墨 我猛地睜開眼也切,長吁一口氣:“原來是場噩夢啊……” “哼扑媚!你這毒婦竟也來了?” 一聲冷哼從身側(cè)響起雷恃,我...
    開封第一講書人閱讀 38,992評論 0 275
  • 序言:老撾萬榮一對情侶失蹤疆股,失蹤者是張志新(化名)和其女友劉穎,沒想到半個月后褂萧,有當?shù)厝嗽跇淞掷锇l(fā)現(xiàn)了一具尸體押桃,經(jīng)...
    沈念sama閱讀 45,429評論 1 314
  • 正文 獨居荒郊野嶺守林人離奇死亡,尸身上長有42處帶血的膿包…… 初始之章·張勛 以下內(nèi)容為張勛視角 年9月15日...
    茶點故事閱讀 37,636評論 3 334
  • 正文 我和宋清朗相戀三年,在試婚紗的時候發(fā)現(xiàn)自己被綠了唱凯。 大學(xué)時的朋友給我發(fā)了我未婚夫和他白月光在一起吃飯的照片羡忘。...
    茶點故事閱讀 39,785評論 1 348
  • 序言:一個原本活蹦亂跳的男人離奇死亡,死狀恐怖磕昼,靈堂內(nèi)的尸體忽然破棺而出卷雕,到底是詐尸還是另有隱情,我是刑警寧澤票从,帶...
    沈念sama閱讀 35,492評論 5 345
  • 正文 年R本政府宣布漫雕,位于F島的核電站,受9級特大地震影響峰鄙,放射性物質(zhì)發(fā)生泄漏浸间。R本人自食惡果不足惜,卻給世界環(huán)境...
    茶點故事閱讀 41,092評論 3 328
  • 文/蒙蒙 一吟榴、第九天 我趴在偏房一處隱蔽的房頂上張望魁蒜。 院中可真熱鬧,春花似錦吩翻、人聲如沸兜看。這莊子的主人今日做“春日...
    開封第一講書人閱讀 31,723評論 0 22
  • 文/蒼蘭香墨 我抬頭看了看天上的太陽细移。三九已至,卻和暖如春熊锭,著一層夾襖步出監(jiān)牢的瞬間弧轧,已是汗流浹背。 一陣腳步聲響...
    開封第一講書人閱讀 32,858評論 1 269
  • 我被黑心中介騙來泰國打工球涛, 沒想到剛下飛機就差點兒被人妖公主榨干…… 1. 我叫王不留劣针,地道東北人。 一個月前我還...
    沈念sama閱讀 47,891評論 2 370
  • 正文 我出身青樓亿扁,卻偏偏與公主長得像捺典,于是被迫代替她去往敵國和親。 傳聞我的和親對象是個殘疾皇子从祝,可洞房花燭夜當晚...
    茶點故事閱讀 44,713評論 2 354

推薦閱讀更多精彩內(nèi)容

  • 1.1 資料 襟己,最好的入門小冊子,可以先于一切文檔之前看牍陌,免費擎浴。 作者Antirez的博客,Antirez維護的R...
    JefferyLcm閱讀 17,055評論 1 51
  • NOSQL類型簡介鍵值對:會使用到一個哈希表毒涧,表中有一個特定的鍵和一個指針指向特定的數(shù)據(jù)贮预,如redis,volde...
    MicoCube閱讀 3,981評論 2 27
  • 本文將從Redis的基本特性入手滑频,通過講述Redis的數(shù)據(jù)結(jié)構(gòu)和主要命令對Redis的基本能力進行直觀介紹。之后概...
    kelgon閱讀 61,160評論 23 625
  • 1 Redis介紹1.1 什么是NoSql為了解決高并發(fā)、高可擴展你虹、高可用绘搞、大數(shù)據(jù)存儲問題而產(chǎn)生的數(shù)據(jù)庫解決方...
    克魯?shù)吕?/span>閱讀 5,291評論 0 36
  • 獻給20歲的你 文/溫臺 親愛的 我昨夜夢見你 那是我們幾個人 舉著酒杯為你歡慶 親愛的 天亮后只有我 和一個人的...
    溫臺閱讀 135評論 4 4