架構(gòu)秘笈:移花接木山叮。使用mysql模擬redis

原創(chuàng):小姐姐味道(微信公眾號ID:xjjdog),歡迎分享添履,轉(zhuǎn)載請保留出處屁倔。

這年頭,你看到的東西未必就是你認(rèn)為的東西暮胧。一個mysql協(xié)議的后面锐借,可能是tidb问麸;一個linux機(jī)器后面,可能是一個精簡的docker钞翔;你覺得xjjdog是個女的严卖,但可能ta自己也不太清楚;而當(dāng)你大呼php萬歲的時候布轿,可能是研發(fā)人員和你開個玩笑哮笆,重寫了后綴,而后端用的卻是java汰扭。

大家都知道redis速度快稠肘,但它的容量和內(nèi)存容量有關(guān),很容易達(dá)到瓶頸萝毛。有些互聯(lián)網(wǎng)公司启具,直接使用redis作為后端數(shù)據(jù)庫(在下佩服)。當(dāng)業(yè)務(wù)量暴增珊泳,就面臨一個redis容量和價格的權(quán)衡問題。改業(yè)務(wù)代碼是來不及了拷沸,只好用一些持久化存儲 色查,來模擬redis的一些數(shù)據(jù)結(jié)構(gòu)。

redis支持近十種數(shù)據(jù)類型撞芍,最常用的有5種秧了。string、hash序无、zset验毡、set、list等帝嗡。本文將針對幾種常見的數(shù)據(jù)結(jié)構(gòu)晶通,探討一下常用操作的模擬實(shí)現(xiàn)。

其實(shí)哟玷,我們所需要開發(fā)的狮辽,就是一個redis代理proxy。redis的客戶端巢寡,連接上我們的代理之后喉脖,會進(jìn)行協(xié)議解析。解析出來的命令抑月,將會被模擬树叽,然后根據(jù)配置的路由,定位到相應(yīng)的mysql中谦絮。

也就是你所使用的redis题诵,其實(shí)使用mysql來存儲數(shù)據(jù)的洁仗。沒有rdb,也沒有aof仇轻。

Redis是文本協(xié)議

redis是文本協(xié)議京痢,協(xié)議名稱叫做RESP。RESP 是 Redis 序列化協(xié)議的簡寫篷店。它是一種直觀的文本協(xié)議祭椰,優(yōu)勢在于實(shí)現(xiàn)異常簡單,解析性能極好疲陕。

如圖方淤,Redis 協(xié)議將傳輸?shù)慕Y(jié)構(gòu)數(shù)據(jù),可以總結(jié)為 5 種最小單元類型蹄殃。每個單元結(jié)束時携茂,統(tǒng)一加上回車換行符號\r\n

下面是幾個規(guī)則:

單行字符串 以 + 開頭诅岩;
多行字符串 以 $ 開頭讳苦,后跟字符串長度;
整數(shù)值 以 : 開頭吩谦,后跟整數(shù)的字符串形式鸳谜;
錯誤消息 以 - 符號開頭;
數(shù)組 以 * 號開頭式廷,后跟數(shù)組的長度咐扭;

比如,下面這個就是數(shù)組[9,9,6]的報文滑废。

*3\r\n:9\r\n:9\r\n:6\r\n

所以這個協(xié)議的解析和拼裝蝗肪,是非常簡單的。拿netty來說蠕趁,就有codec-redis 模塊供我們使用薛闪。

實(shí)現(xiàn):數(shù)據(jù)結(jié)構(gòu)設(shè)計

在數(shù)據(jù)表的設(shè)計上,我們發(fā)現(xiàn)妻导,kv和hash在效率上沒有什么差別逛绵,因?yàn)樗軌蛑苯痈鶕?jù)key定位到。

反倒是zset倔韭,由于有排序的功能术浪,造成了很多操作的執(zhí)行效率都不盡人意。

另外寿酌,由于我們不同的數(shù)據(jù)結(jié)構(gòu)胰苏,是使用不同的表進(jìn)行存儲的。所以刪除操作醇疼,要在每張表上都執(zhí)行一遍硕并。

kv設(shè)計

kv法焰,即string,是redis里最基本的數(shù)據(jù)類型倔毙。一個key對應(yīng)一個value埃仪,string類型的值最大能存儲512MB。

設(shè)計專用的數(shù)據(jù)庫表rstore_kv陕赃,其中卵蛉,rkey是主鍵。

rkey        varchar
val varchar
lastTime bigint

set操作

insert into rstore_kv("rkey","val","lastTime") values($1,$2,$3)
on duplicate key update set "val"=$2,"lastTime"=$3

get操作

select val from rstore_kv where "rkey" = $1

del操作

delete from rstore_kv where "rkey" = $1

exists操作

select count(*) as n from rstore_kv where  "rkey" = $1

ttl操作

select lastTIme from rstore_kv  where  "rkey" = $1

hash設(shè)計

hash 是一個鍵值(key=>value)對集合么库。hash 特別適合用于存儲對象傻丝。

設(shè)計專用的數(shù)據(jù)庫表rstore_hash,其中诉儒,rkey和hkey是聯(lián)合主鍵葡缰。

rkey        varchar
hkey varchar
val varchar
lastTime bigint

hset操作

insert into rstore_hash("rkey","hkey","val","lastTime") values($1,$2,$3,$4)
on duplicate key update set "val"=$3,"lastTime"=$4

hget操作

select val from rstore_hash where "rkey" = $1 and "hkey" = $2

hgetall操作

select hkey,val from rstore_hash where "rkey" = $1

hdel操作

delete from rstore_hash where "rkey" = $1 and "hkey" = $2

del操作

delete from rstore_hash where "rkey" = $1

hlen,hexists操作

select count(*) as num from rstore_hash where "rkey" = $1

ttl操作

select max(lastTIme) from rstore_hash  where  "rkey" = $1

zset設(shè)計

Redis zset 和 set 一樣也是string類型元素的集合,且不允許重復(fù)的成員。不同的是每個元素都會關(guān)聯(lián)一個double類型的分?jǐn)?shù)忱反。redis正是通過分?jǐn)?shù)來為集合中的成員進(jìn)行從小到大的排序泛释。它的底層結(jié)構(gòu)是跳躍表,效率特別高温算,但是會占用大量內(nèi)存胁澳。

設(shè)計專用的數(shù)據(jù)庫表rstore_zset,其中米者,rkey和member是聯(lián)合主鍵。

rkey        varchar
member varchar
score double
lastTime bigint

zadd操作

insert into rstore_zset("rkey","member","score","lastTime") values($1,$2,$3,$4) on duplicate key update update set "score"=$3,"lastTime"=$4

zscore操作

select score from rstore_zset where "rkey" = $1 and "member" = $2

zrem操作

delete from rstore_zset where "rkey" = $1 and "member" = $2"

zcard,exists操作

select count(*) as num from rstore_zset where "rkey" = $1

zcount操作

select count(*) as num from rstore_zset where "rkey" = $1 and score>=$2 and score<=$3

zremrangebyscore操作

delete from rstore_zset where "rkey" = $1 and score>=$2 and score<=$3

zrangebyscore操作

select member,score from rstore_zset
where "rkey" = $1 and score>=$2 and score<=$3 order by score asc,member asc

zrange操作

select member,score from rstore_zset
where "rkey" = $1 order by score asc offset $2 limit $3

zrank操作

select rank from (select member,rank() over (order by "score" asc, "lastTime" asc) as rank from rstore_zset where "rkey" = $1 ) m where m."member"= $2;

ttl操作

select max(lastTIme) from rstore_zset  where  "rkey" = $1

del操作

delete from rstore_zset where "rkey" = $1

set設(shè)計

Redis的Set是string類型的無序集合宇智。

設(shè)計專用的數(shù)據(jù)庫表rstore_set蔓搞,其中,rkey和member是聯(lián)合主鍵随橘。

rkey        varchar
member varchar
lastTime bigint

sadd操作

insert into rstore_set("rkey","member","lastTime") values($1,$2,$3)
on duplicate key update update set "lastTime"=$3

scard操作

select count(*) as num from rstore_set where "rkey" = $1

sismember操作

select member from rstore_set where "rkey" = $1 and "member" = $2

smembers操作

select member from rstore_set where "rkey" = $1

srem操作

delete from rstore_set where "rkey" = $1 and "member" = $2

del操作

delete from rstore_set where "rkey" = $1

ttl操作

select max(lastTIme) from rstore_set  where  "rkey" = $1

End

本篇文章僅僅模擬了最常用數(shù)據(jù)結(jié)構(gòu)的最常用功能喂分,有很多很多功能是不支持的,比較明顯的就是分布式鎖setnx等机蔗。所以這個proxy層的開發(fā)蒲祈,要想做到ok,并不是那么簡單萝嘁。

同時梆掸,我們以一種模擬的視角,來看一下redis的數(shù)據(jù)結(jié)構(gòu)牙言,在關(guān)系型數(shù)據(jù)庫中的表現(xiàn)形式酸钦。這樣,更能夠加深我們對redis的認(rèn)識咱枉,明白它存在的價值卑硫。

作者簡介:小姐姐味道 ?(xjjdog)徒恋,一個不允許程序員走彎路的公眾號。聚焦基礎(chǔ)架構(gòu)和Linux欢伏。十年架構(gòu)入挣,日百億流量,與你探討高并發(fā)世界硝拧,給你不一樣的味道径筏。我的個人微信xjjdog0,歡迎添加好友河爹,進(jìn)一步交流匠璧。


近期熱門文章

《必看!java后端咸这,亮劍誅仙》


后端技術(shù)索引夷恍,中肯火爆

《學(xué)完這100多技術(shù),能當(dāng)架構(gòu)師么媳维?(非廣告)》


精準(zhǔn)點(diǎn)評100多框架酿雪,幫你選型

《Linux上,最常用的一批命令解析(10年精選)》


CSDN發(fā)布首日侄刽,1k贊指黎。點(diǎn)贊率1/8。

《這次要是講不明白Spring Cloud核心組件州丹,那我就白編這故事了》


用故事講解核心組件醋安,包你滿意

《Linux生產(chǎn)環(huán)境上,最常用的一套“Sed“技巧》


最常用系列Sed篇墓毒,簡單易懂吓揪。Vim篇更加易懂。

?著作權(quán)歸作者所有,轉(zhuǎn)載或內(nèi)容合作請聯(lián)系作者
  • 序言:七十年代末所计,一起剝皮案震驚了整個濱河市柠辞,隨后出現(xiàn)的幾起案子,更是在濱河造成了極大的恐慌主胧,老刑警劉巖叭首,帶你破解...
    沈念sama閱讀 217,277評論 6 503
  • 序言:濱河連續(xù)發(fā)生了三起死亡事件,死亡現(xiàn)場離奇詭異踪栋,居然都是意外死亡焙格,警方通過查閱死者的電腦和手機(jī),發(fā)現(xiàn)死者居然都...
    沈念sama閱讀 92,689評論 3 393
  • 文/潘曉璐 我一進(jìn)店門夷都,熙熙樓的掌柜王于貴愁眉苦臉地迎上來间螟,“玉大人,你說我怎么就攤上這事∠崞疲” “怎么了荣瑟?”我有些...
    開封第一講書人閱讀 163,624評論 0 353
  • 文/不壞的土叔 我叫張陵,是天一觀的道長摩泪。 經(jīng)常有香客問我笆焰,道長,這世上最難降的妖魔是什么见坑? 我笑而不...
    開封第一講書人閱讀 58,356評論 1 293
  • 正文 為了忘掉前任嚷掠,我火速辦了婚禮,結(jié)果婚禮上荞驴,老公的妹妹穿的比我還像新娘不皆。我一直安慰自己,他們只是感情好熊楼,可當(dāng)我...
    茶點(diǎn)故事閱讀 67,402評論 6 392
  • 文/花漫 我一把揭開白布霹娄。 她就那樣靜靜地躺著,像睡著了一般鲫骗。 火紅的嫁衣襯著肌膚如雪犬耻。 梳的紋絲不亂的頭發(fā)上,一...
    開封第一講書人閱讀 51,292評論 1 301
  • 那天执泰,我揣著相機(jī)與錄音枕磁,去河邊找鬼。 笑死术吝,一個胖子當(dāng)著我的面吹牛计济,可吹牛的內(nèi)容都是我干的。 我是一名探鬼主播排苍,決...
    沈念sama閱讀 40,135評論 3 418
  • 文/蒼蘭香墨 我猛地睜開眼峭咒,長吁一口氣:“原來是場噩夢啊……” “哼!你這毒婦竟也來了纪岁?” 一聲冷哼從身側(cè)響起,我...
    開封第一講書人閱讀 38,992評論 0 275
  • 序言:老撾萬榮一對情侶失蹤则果,失蹤者是張志新(化名)和其女友劉穎幔翰,沒想到半個月后,有當(dāng)?shù)厝嗽跇淞掷锇l(fā)現(xiàn)了一具尸體西壮,經(jīng)...
    沈念sama閱讀 45,429評論 1 314
  • 正文 獨(dú)居荒郊野嶺守林人離奇死亡遗增,尸身上長有42處帶血的膿包…… 初始之章·張勛 以下內(nèi)容為張勛視角 年9月15日...
    茶點(diǎn)故事閱讀 37,636評論 3 334
  • 正文 我和宋清朗相戀三年,在試婚紗的時候發(fā)現(xiàn)自己被綠了款青。 大學(xué)時的朋友給我發(fā)了我未婚夫和他白月光在一起吃飯的照片做修。...
    茶點(diǎn)故事閱讀 39,785評論 1 348
  • 序言:一個原本活蹦亂跳的男人離奇死亡,死狀恐怖,靈堂內(nèi)的尸體忽然破棺而出饰及,到底是詐尸還是另有隱情蔗坯,我是刑警寧澤,帶...
    沈念sama閱讀 35,492評論 5 345
  • 正文 年R本政府宣布燎含,位于F島的核電站宾濒,受9級特大地震影響,放射性物質(zhì)發(fā)生泄漏屏箍。R本人自食惡果不足惜绘梦,卻給世界環(huán)境...
    茶點(diǎn)故事閱讀 41,092評論 3 328
  • 文/蒙蒙 一、第九天 我趴在偏房一處隱蔽的房頂上張望赴魁。 院中可真熱鬧卸奉,春花似錦、人聲如沸颖御。這莊子的主人今日做“春日...
    開封第一講書人閱讀 31,723評論 0 22
  • 文/蒼蘭香墨 我抬頭看了看天上的太陽郎嫁。三九已至秉继,卻和暖如春,著一層夾襖步出監(jiān)牢的瞬間泽铛,已是汗流浹背尚辑。 一陣腳步聲響...
    開封第一講書人閱讀 32,858評論 1 269
  • 我被黑心中介騙來泰國打工, 沒想到剛下飛機(jī)就差點(diǎn)兒被人妖公主榨干…… 1. 我叫王不留盔腔,地道東北人杠茬。 一個月前我還...
    沈念sama閱讀 47,891評論 2 370
  • 正文 我出身青樓,卻偏偏與公主長得像弛随,于是被迫代替她去往敵國和親瓢喉。 傳聞我的和親對象是個殘疾皇子,可洞房花燭夜當(dāng)晚...
    茶點(diǎn)故事閱讀 44,713評論 2 354

推薦閱讀更多精彩內(nèi)容

  • NOSQL類型簡介鍵值對:會使用到一個哈希表舀透,表中有一個特定的鍵和一個指針指向特定的數(shù)據(jù)栓票,如redis,volde...
    MicoCube閱讀 3,981評論 2 27
  • Redis是啥 Redis是一個開源的key-value存儲系統(tǒng)愕够,由于擁有豐富的數(shù)據(jù)結(jié)構(gòu)走贪,又被其作者戲稱為數(shù)據(jù)結(jié)構(gòu)...
    一凡呀閱讀 1,173評論 0 5
  • Redis 是一個鍵值對數(shù)據(jù)庫(key-value DB),數(shù)據(jù)庫的值可以是字符串惑芭、集合坠狡、列表等多種類型的對象语御,而...
    吳昂_ff2d閱讀 3,188評論 0 5
  • Redis的內(nèi)存優(yōu)化 聲明:本文內(nèi)容來自《Redis開發(fā)與運(yùn)維》一書第八章贪婉,如轉(zhuǎn)載請聲明。 Redis所有的數(shù)據(jù)都...
    meng_philip123閱讀 18,888評論 2 29
  • redis是一個以key-value存儲的非關(guān)系型數(shù)據(jù)庫济炎。有五種數(shù)據(jù)類型,string凯亮、hashes边臼、list、s...
    林ze宏閱讀 992評論 0 0