zyredis一個(gè)支持failover機(jī)制的redis client

zyredis介紹

? ? ? zyredis是一個(gè)基于redis官方客戶端擴(kuò)展的新的redis client陈辱,在功能上提供了redis proxy的failover機(jī)制并提供了統(tǒng)一管理redis key的model令哟,還專門為python用戶提供了pythonic接口處理redis猜扮。

zyredis特性:

? ? ? ?對redis客戶端所有的批量操作進(jìn)行優(yōu)化扁位,最大程度上避免redis server阻塞操作稍算。具體優(yōu)化的redis慢查詢有:mget呼伸,lrange虱痕,pipeline等批量操作睹耐,主要優(yōu)化方式是對單個(gè)指令批量操作的邏輯統(tǒng)一進(jìn)行切片分步執(zhí)行,避免異步單線程執(zhí)行的redis-server阻塞部翘。

基于QConf構(gòu)建failover機(jī)制硝训。

? ? ? ? 公司內(nèi)部線上業(yè)務(wù)對redis的依賴非常嚴(yán)重,幾乎全量內(nèi)容相關(guān)的業(yè)務(wù)都基于redis來構(gòu)建實(shí)時(shí)接口新思,但是redis單機(jī)超20G后就會存在性能瓶頸窖梁,因此我們引入codis集群統(tǒng)一管理線上redis,codis可以參考官方文檔介紹夹囚,其codis-proxy本身是無狀態(tài)的纵刘,因此為了使線上服務(wù)達(dá)到高可用性codis-proxy線上啟動的個(gè)數(shù)大于等于2,當(dāng)線上某個(gè)proxy節(jié)點(diǎn)失效為了保證集群的高可用這個(gè)時(shí)候就需要用到failover機(jī)制來保證這一點(diǎn)了荸哟。

選擇使用QConf而不是Zookeeper的原因假哎?

? ? ? ?選擇使用QConf而不是zookeeper是從公司當(dāng)前使用的技術(shù)棧考慮的鞍历,公司大范圍的應(yīng)用基本都是python和php舵抹,公司內(nèi)使用python構(gòu)建應(yīng)用的方式全部都是nginx+后端多進(jìn)程,如下圖展示

公司內(nèi)部部署php應(yīng)用主要是通過fastcgi后端多個(gè)php-fpm進(jìn)程劣砍,這種部署架構(gòu)方式對python的影響就是python如果再啟動一個(gè)線程去維護(hù)與zookeeper的通信會由于python語言本身GIL的限制導(dǎo)致阻塞發(fā)生惧蛹,對php的影響更明顯因?yàn)閜hp壓根在語言層面不支持啟動線程去維護(hù)這樣的長連接。這時(shí)候使用QConf來生成一塊共享內(nèi)存既滿足業(yè)務(wù)上獲取配置的條件又免去與zookeeper通信的開銷刑枝。

提供codis兼容性支持

? ? ? codis-proxy對redis命令的支持并不是100%香嗓,redis很多命令在codis-proxy客戶端上不能使用比如pipeline,如果支持使用pipeline會直接異常装畅,由于codis是中途引入到項(xiàng)目中靠娱,之前項(xiàng)目里有大量代碼直接基于redis client來構(gòu)建,為了減去大量修改引入一個(gè)中間的client做適配是最簡單有效的解決方案洁灵。

提供model層

? ? ? 在項(xiàng)目比較大饱岸,深度使用redis的場景會有一個(gè)這樣的問題就是redis的key散落到項(xiàng)目代碼中不易管理,因此迫切需要一個(gè)專門處理redis相關(guān)key的邏輯部件徽千,這就是zyredis提供Model機(jī)制的原因苫费,通過使用zyredis的model層功能可以很容易的處理各個(gè)redis的key散落在項(xiàng)目代碼里面不易管理的場景。?

zyredis線上應(yīng)用情況:

公司內(nèi)部對外提供內(nèi)容的業(yè)務(wù)部分全量使用zyredis客戶端提供服務(wù)双抽。接口日總請求量大于5億百框,redis每天總請求量大于25億次,codis-proxy低峰期間OPS在2W/s公司目前已經(jīng)將zyredis做為整體codis-proxy的python版本指定客戶端牍汹,其他部門也正在遷移铐维。

QConf的管理后臺對codis-proxy的配置舉例:

qconf后臺管理需要創(chuàng)建一個(gè)codis-proxy的節(jié)點(diǎn)路徑如下圖展示

圖中service/codis路徑下有兩個(gè)節(jié)點(diǎn)分別是codis-proxy的配置項(xiàng),點(diǎn)擊查看節(jié)點(diǎn)信息如下圖

圖中redis://192.168.6.184:6389/cps_codis?weight=0和redis://192.168.6.184:6389/cps_codis?weight=2分別為proxy的配置慎菲,其中weight代表權(quán)重嫁蛇。zyredis會根據(jù)權(quán)重配置項(xiàng)自動處理。

上圖管理QConf的配置管理后臺已開源:https://github.com/ireaderlab/zkdash露该。

最后編輯于
?著作權(quán)歸作者所有,轉(zhuǎn)載或內(nèi)容合作請聯(lián)系作者
  • 序言:七十年代末睬棚,一起剝皮案震驚了整個(gè)濱河市,隨后出現(xiàn)的幾起案子解幼,更是在濱河造成了極大的恐慌抑党,老刑警劉巖,帶你破解...
    沈念sama閱讀 216,744評論 6 502
  • 序言:濱河連續(xù)發(fā)生了三起死亡事件撵摆,死亡現(xiàn)場離奇詭異底靠,居然都是意外死亡,警方通過查閱死者的電腦和手機(jī)特铝,發(fā)現(xiàn)死者居然都...
    沈念sama閱讀 92,505評論 3 392
  • 文/潘曉璐 我一進(jìn)店門暑中,熙熙樓的掌柜王于貴愁眉苦臉地迎上來,“玉大人苟呐,你說我怎么就攤上這事痒芝。” “怎么了牵素?”我有些...
    開封第一講書人閱讀 163,105評論 0 353
  • 文/不壞的土叔 我叫張陵严衬,是天一觀的道長。 經(jīng)常有香客問我笆呆,道長请琳,這世上最難降的妖魔是什么? 我笑而不...
    開封第一講書人閱讀 58,242評論 1 292
  • 正文 為了忘掉前任赠幕,我火速辦了婚禮俄精,結(jié)果婚禮上,老公的妹妹穿的比我還像新娘榕堰。我一直安慰自己竖慧,他們只是感情好嫌套,可當(dāng)我...
    茶點(diǎn)故事閱讀 67,269評論 6 389
  • 文/花漫 我一把揭開白布。 她就那樣靜靜地躺著圾旨,像睡著了一般踱讨。 火紅的嫁衣襯著肌膚如雪。 梳的紋絲不亂的頭發(fā)上砍的,一...
    開封第一講書人閱讀 51,215評論 1 299
  • 那天痹筛,我揣著相機(jī)與錄音,去河邊找鬼廓鞠。 笑死帚稠,一個(gè)胖子當(dāng)著我的面吹牛,可吹牛的內(nèi)容都是我干的床佳。 我是一名探鬼主播滋早,決...
    沈念sama閱讀 40,096評論 3 418
  • 文/蒼蘭香墨 我猛地睜開眼,長吁一口氣:“原來是場噩夢啊……” “哼砌们!你這毒婦竟也來了馆衔?” 一聲冷哼從身側(cè)響起,我...
    開封第一講書人閱讀 38,939評論 0 274
  • 序言:老撾萬榮一對情侶失蹤怨绣,失蹤者是張志新(化名)和其女友劉穎角溃,沒想到半個(gè)月后,有當(dāng)?shù)厝嗽跇淞掷锇l(fā)現(xiàn)了一具尸體篮撑,經(jīng)...
    沈念sama閱讀 45,354評論 1 311
  • 正文 獨(dú)居荒郊野嶺守林人離奇死亡减细,尸身上長有42處帶血的膿包…… 初始之章·張勛 以下內(nèi)容為張勛視角 年9月15日...
    茶點(diǎn)故事閱讀 37,573評論 2 333
  • 正文 我和宋清朗相戀三年,在試婚紗的時(shí)候發(fā)現(xiàn)自己被綠了赢笨。 大學(xué)時(shí)的朋友給我發(fā)了我未婚夫和他白月光在一起吃飯的照片未蝌。...
    茶點(diǎn)故事閱讀 39,745評論 1 348
  • 序言:一個(gè)原本活蹦亂跳的男人離奇死亡,死狀恐怖茧妒,靈堂內(nèi)的尸體忽然破棺而出萧吠,到底是詐尸還是另有隱情,我是刑警寧澤桐筏,帶...
    沈念sama閱讀 35,448評論 5 344
  • 正文 年R本政府宣布纸型,位于F島的核電站,受9級特大地震影響梅忌,放射性物質(zhì)發(fā)生泄漏狰腌。R本人自食惡果不足惜,卻給世界環(huán)境...
    茶點(diǎn)故事閱讀 41,048評論 3 327
  • 文/蒙蒙 一牧氮、第九天 我趴在偏房一處隱蔽的房頂上張望琼腔。 院中可真熱鬧,春花似錦踱葛、人聲如沸丹莲。這莊子的主人今日做“春日...
    開封第一講書人閱讀 31,683評論 0 22
  • 文/蒼蘭香墨 我抬頭看了看天上的太陽甥材。三九已至教馆,卻和暖如春,著一層夾襖步出監(jiān)牢的瞬間擂达,已是汗流浹背。 一陣腳步聲響...
    開封第一講書人閱讀 32,838評論 1 269
  • 我被黑心中介騙來泰國打工胶滋, 沒想到剛下飛機(jī)就差點(diǎn)兒被人妖公主榨干…… 1. 我叫王不留板鬓,地道東北人。 一個(gè)月前我還...
    沈念sama閱讀 47,776評論 2 369
  • 正文 我出身青樓究恤,卻偏偏與公主長得像俭令,于是被迫代替她去往敵國和親。 傳聞我的和親對象是個(gè)殘疾皇子部宿,可洞房花燭夜當(dāng)晚...
    茶點(diǎn)故事閱讀 44,652評論 2 354

推薦閱讀更多精彩內(nèi)容