Redis 連接錯(cuò)誤總結(jié)

最近由于流量增大,redis 出現(xiàn)了一連串錯(cuò)誤陕凹,比如:

  • LOADING Redis is loading the dataset in memory
  • use of closed network connection
  • connection pool exhausted
  • connection refuse by peer

一個(gè)個(gè)來(lái)分析。

LOADING Redis is loading the dataset in memory

這里至少有2種可能

  1. 可用內(nèi)存太小景馁,修改 redis.conf 中的 maxmemory 即可解決
  2. redis 在啟動(dòng)時(shí)正在加載 dump.rdb 文件饥悴,由于加載比較慢導(dǎo)致 redis 在啟動(dòng)時(shí)不可用

我遇到的就是第2種情況故慈,AWS在自動(dòng)擴(kuò)容的時(shí)候辩昆,每個(gè)新產(chǎn)生的 EC2 實(shí)例都報(bào)錯(cuò)阅酪,原因就是 redis 在啟動(dòng)時(shí)發(fā)現(xiàn)有個(gè) dump.rdb,然后就去加載它,導(dǎo)致服務(wù)器里的服務(wù)都報(bào)錯(cuò)遮斥,然后就退出了,并且 redis 加載這個(gè)要好久(不知道為什么)扇丛,supervisord 自動(dòng)重啟了新的服務(wù)后依然報(bào)錯(cuò)术吗。
后來(lái)把鏡像中的 dump.rdb 文件刪了,服務(wù)才能正常啟動(dòng)帆精。

dump.rdb 文件產(chǎn)生的原因可能是之前 redis 出現(xiàn)了某種錯(cuò)誤较屿,然后在制作鏡像時(shí)也做進(jìn)去了,導(dǎo)致新生成的實(shí)例個(gè)個(gè)都報(bào)錯(cuò)卓练。

這次吸取了教訓(xùn)隘蝎,下次制作鏡像之前都要先 stop 掉 redis 然后刪掉 dump.rdb 。(注意:如果你不是制作新的鏡像襟企,或者你是在生產(chǎn)環(huán)境的服務(wù)器上嘱么,那么不要隨便刪 dump.rdb,否則會(huì)導(dǎo)致數(shù)據(jù)丟失)

其他3種錯(cuò)誤

一開(kāi)始也是各種找資料顽悼,然后各種改配置曼振,導(dǎo)致這3種錯(cuò)誤都先后出現(xiàn)。
一開(kāi)始我認(rèn)為是 golang 代碼沒(méi)有正確處理 redis 連接異常的情況蔚龙,于是各種升級(jí) redigo冰评,改 golang 中的 timeout 、max_active木羹、wait 等的配置甲雅,發(fā)現(xiàn)都沒(méi)有用。

這樣來(lái)來(lái)回回折騰了大概一周坑填,終于從 pool.Active 和 pool.MaxActive 中發(fā)現(xiàn)了貓膩抛人。

因?yàn)槲?MaxActive 設(shè)置的是 10000,于是我開(kāi)了 10000 個(gè) go runtine 去測(cè)試它脐瑰,發(fā)現(xiàn)當(dāng)前連接數(shù) pool.Active 老是才 4000 左右函匕,然后就各種報(bào)錯(cuò)。

那段時(shí)間也是腦子短路了蚪黑,老是認(rèn)為 redigo 沒(méi)有正確處理 redis 的連接才導(dǎo)致 pool.Active 不能上到最大盅惜。老是想著改 redigo 的代碼……
后來(lái)實(shí)在沒(méi)辦法,想著去改一改 ulimit忌穿,舊的是 500000抒寂,改到 990000,發(fā)現(xiàn)還是報(bào)連接錯(cuò)誤掠剑,pool.Active 還是上不去屈芜,我想這不可能啊,這才想到會(huì)不會(huì)是 redis 本身有最大連接數(shù)的配置。上網(wǎng)一查井佑,果然属铁,redis-server 有一個(gè) maxclients 的配置……默認(rèn)是 4000 多,改到 10000 后躬翁,整個(gè)世界都清靜了……

其實(shí)也不能怪我焦蘑,因?yàn)?redigo 也有個(gè) max_active 參數(shù),鬼知道 redis-server 還要設(shè)置呢 [笑哭]盒发?

Redis 用于高并發(fā)服務(wù)的配置

Redis 客戶(hù)端(即 golang 代碼)

Wait: true 如果連接池滿(mǎn)了例嘱,就等待, Redis 處理很快的宁舰,等個(gè)幾微秒用戶(hù)也感覺(jué)不出來(lái)什么
IdleTimeout: 5s 一個(gè)業(yè)務(wù)邏輯5s都處理不完拼卵,那你應(yīng)該優(yōu)化你的代碼了。如果設(shè)置為0蛮艰,萬(wàn)一這個(gè)連接失蹤了服務(wù)端就收回不了了腋腮,會(huì)產(chǎn)生僵尸連接的。
MaxActive: 10000 相當(dāng)于這個(gè)服務(wù)器能處理每秒 10000 并發(fā)了壤蚜。

Redis 服務(wù)器(即 redis-server)

maxclients 要設(shè)置得比 MaxActive 大

附加題:一臺(tái)服務(wù)器的最大文件數(shù)怎么算低葫?

linux kernel - Need to “calculate” optimum ulimit and fs.file-max values according to my own server needs - Stack Overflow
this ends up being about 100 for every 1MB of ram.

例,如果是 4G 內(nèi)存仍律,那么打開(kāi)文件數(shù)最大可以設(shè)置為:4 * 1024 * 100 = 409600

最后編輯于
?著作權(quán)歸作者所有,轉(zhuǎn)載或內(nèi)容合作請(qǐng)聯(lián)系作者
  • 序言:七十年代末嘿悬,一起剝皮案震驚了整個(gè)濱河市,隨后出現(xiàn)的幾起案子水泉,更是在濱河造成了極大的恐慌善涨,老刑警劉巖,帶你破解...
    沈念sama閱讀 218,755評(píng)論 6 507
  • 序言:濱河連續(xù)發(fā)生了三起死亡事件草则,死亡現(xiàn)場(chǎng)離奇詭異钢拧,居然都是意外死亡,警方通過(guò)查閱死者的電腦和手機(jī)炕横,發(fā)現(xiàn)死者居然都...
    沈念sama閱讀 93,305評(píng)論 3 395
  • 文/潘曉璐 我一進(jìn)店門(mén)源内,熙熙樓的掌柜王于貴愁眉苦臉地迎上來(lái),“玉大人份殿,你說(shuō)我怎么就攤上這事膜钓。” “怎么了卿嘲?”我有些...
    開(kāi)封第一講書(shū)人閱讀 165,138評(píng)論 0 355
  • 文/不壞的土叔 我叫張陵颂斜,是天一觀的道長(zhǎng)。 經(jīng)常有香客問(wèn)我拾枣,道長(zhǎng)沃疮,這世上最難降的妖魔是什么盒让? 我笑而不...
    開(kāi)封第一講書(shū)人閱讀 58,791評(píng)論 1 295
  • 正文 為了忘掉前任,我火速辦了婚禮司蔬,結(jié)果婚禮上邑茄,老公的妹妹穿的比我還像新娘。我一直安慰自己俊啼,他們只是感情好肺缕,可當(dāng)我...
    茶點(diǎn)故事閱讀 67,794評(píng)論 6 392
  • 文/花漫 我一把揭開(kāi)白布。 她就那樣靜靜地躺著吨些,像睡著了一般搓谆。 火紅的嫁衣襯著肌膚如雪炒辉。 梳的紋絲不亂的頭發(fā)上豪墅,一...
    開(kāi)封第一講書(shū)人閱讀 51,631評(píng)論 1 305
  • 那天,我揣著相機(jī)與錄音黔寇,去河邊找鬼偶器。 笑死,一個(gè)胖子當(dāng)著我的面吹牛缝裤,可吹牛的內(nèi)容都是我干的屏轰。 我是一名探鬼主播,決...
    沈念sama閱讀 40,362評(píng)論 3 418
  • 文/蒼蘭香墨 我猛地睜開(kāi)眼憋飞,長(zhǎng)吁一口氣:“原來(lái)是場(chǎng)噩夢(mèng)啊……” “哼霎苗!你這毒婦竟也來(lái)了?” 一聲冷哼從身側(cè)響起榛做,我...
    開(kāi)封第一講書(shū)人閱讀 39,264評(píng)論 0 276
  • 序言:老撾萬(wàn)榮一對(duì)情侶失蹤唁盏,失蹤者是張志新(化名)和其女友劉穎,沒(méi)想到半個(gè)月后检眯,有當(dāng)?shù)厝嗽跇?shù)林里發(fā)現(xiàn)了一具尸體厘擂,經(jīng)...
    沈念sama閱讀 45,724評(píng)論 1 315
  • 正文 獨(dú)居荒郊野嶺守林人離奇死亡,尸身上長(zhǎng)有42處帶血的膿包…… 初始之章·張勛 以下內(nèi)容為張勛視角 年9月15日...
    茶點(diǎn)故事閱讀 37,900評(píng)論 3 336
  • 正文 我和宋清朗相戀三年锰瘸,在試婚紗的時(shí)候發(fā)現(xiàn)自己被綠了刽严。 大學(xué)時(shí)的朋友給我發(fā)了我未婚夫和他白月光在一起吃飯的照片。...
    茶點(diǎn)故事閱讀 40,040評(píng)論 1 350
  • 序言:一個(gè)原本活蹦亂跳的男人離奇死亡避凝,死狀恐怖舞萄,靈堂內(nèi)的尸體忽然破棺而出,到底是詐尸還是另有隱情管削,我是刑警寧澤鹏氧,帶...
    沈念sama閱讀 35,742評(píng)論 5 346
  • 正文 年R本政府宣布,位于F島的核電站佩谣,受9級(jí)特大地震影響把还,放射性物質(zhì)發(fā)生泄漏。R本人自食惡果不足惜,卻給世界環(huán)境...
    茶點(diǎn)故事閱讀 41,364評(píng)論 3 330
  • 文/蒙蒙 一吊履、第九天 我趴在偏房一處隱蔽的房頂上張望安皱。 院中可真熱鬧,春花似錦艇炎、人聲如沸酌伊。這莊子的主人今日做“春日...
    開(kāi)封第一講書(shū)人閱讀 31,944評(píng)論 0 22
  • 文/蒼蘭香墨 我抬頭看了看天上的太陽(yáng)居砖。三九已至,卻和暖如春驴娃,著一層夾襖步出監(jiān)牢的瞬間奏候,已是汗流浹背。 一陣腳步聲響...
    開(kāi)封第一講書(shū)人閱讀 33,060評(píng)論 1 270
  • 我被黑心中介騙來(lái)泰國(guó)打工唇敞, 沒(méi)想到剛下飛機(jī)就差點(diǎn)兒被人妖公主榨干…… 1. 我叫王不留蔗草,地道東北人。 一個(gè)月前我還...
    沈念sama閱讀 48,247評(píng)論 3 371
  • 正文 我出身青樓疆柔,卻偏偏與公主長(zhǎng)得像咒精,于是被迫代替她去往敵國(guó)和親。 傳聞我的和親對(duì)象是個(gè)殘疾皇子旷档,可洞房花燭夜當(dāng)晚...
    茶點(diǎn)故事閱讀 44,979評(píng)論 2 355

推薦閱讀更多精彩內(nèi)容