flink選擇rocksdb存儲(chǔ)的原因

rocksdb相對(duì)于mysql等數(shù)據(jù)庫(kù)來(lái)說(shuō),比較小眾坤塞,即使接觸過(guò)一段時(shí)間flink后程癌,還是會(huì)很好奇flink為啥要選擇rocksdb來(lái)做狀態(tài)存儲(chǔ)斟览,這里總結(jié)一下為啥flink選擇rocksdb做狀態(tài)存儲(chǔ)的原因璧诵。
1.rocksdb采用的是LSM(Log-Struct Merge)結(jié)構(gòu)汰蜘,對(duì)于LSM不了解的可以參考這篇文章:從B+樹(shù)到LSM樹(shù),及LSM樹(shù)在HBase中的應(yīng)用之宿,LSM相對(duì)于mysql里面的B+樹(shù)來(lái)說(shuō)族操,是寫(xiě)更有優(yōu)勢(shì),而讀則比不過(guò)B+樹(shù)比被,但是因?yàn)閒link采用的keygroup的概念Flink 源碼:從 KeyGroup 到 Rescale色难,flink保存的keyedstate分散到每個(gè)算子的key其實(shí)有序的,而rocksdb存儲(chǔ)的每個(gè)key也是有序排列的等缀,通過(guò)blomfilter和二分查找法來(lái)查詢(xún)數(shù)據(jù)枷莉。
2.rocksdb本身也是一種嵌入式數(shù)據(jù)庫(kù),相對(duì)于flink的每個(gè)算子來(lái)說(shuō)尺迂,每個(gè)算子的rocksdb可以理解成一個(gè)單獨(dú)的數(shù)據(jù)庫(kù)笤妙,他們之間不會(huì)存在讀寫(xiě)并發(fā)的問(wèn)題(因?yàn)獒槍?duì)每個(gè)算子來(lái)說(shuō),存儲(chǔ)的keyedstate中的key是不會(huì)有重復(fù)的)
3.rocksdb中memtable是insert或者delete的數(shù)據(jù)噪裕,每次備份的時(shí)候只需要備份memtable以及各個(gè)層級(jí)合并后新產(chǎn)生的文件蹲盘,無(wú)需全部文件進(jìn)行備份,flink的增量備份就是利用了rocksdb的這點(diǎn)特性就行增量備份的

?著作權(quán)歸作者所有,轉(zhuǎn)載或內(nèi)容合作請(qǐng)聯(lián)系作者
  • 序言:七十年代末州疾,一起剝皮案震驚了整個(gè)濱河市辜限,隨后出現(xiàn)的幾起案子,更是在濱河造成了極大的恐慌严蓖,老刑警劉巖薄嫡,帶你破解...
    沈念sama閱讀 219,539評(píng)論 6 508
  • 序言:濱河連續(xù)發(fā)生了三起死亡事件,死亡現(xiàn)場(chǎng)離奇詭異颗胡,居然都是意外死亡毫深,警方通過(guò)查閱死者的電腦和手機(jī),發(fā)現(xiàn)死者居然都...
    沈念sama閱讀 93,594評(píng)論 3 396
  • 文/潘曉璐 我一進(jìn)店門(mén)毒姨,熙熙樓的掌柜王于貴愁眉苦臉地迎上來(lái)哑蔫,“玉大人,你說(shuō)我怎么就攤上這事弧呐≌⒚裕” “怎么了?”我有些...
    開(kāi)封第一講書(shū)人閱讀 165,871評(píng)論 0 356
  • 文/不壞的土叔 我叫張陵俘枫,是天一觀的道長(zhǎng)腥沽。 經(jīng)常有香客問(wèn)我,道長(zhǎng)鸠蚪,這世上最難降的妖魔是什么今阳? 我笑而不...
    開(kāi)封第一講書(shū)人閱讀 58,963評(píng)論 1 295
  • 正文 為了忘掉前任师溅,我火速辦了婚禮,結(jié)果婚禮上盾舌,老公的妹妹穿的比我還像新娘墓臭。我一直安慰自己,他們只是感情好妖谴,可當(dāng)我...
    茶點(diǎn)故事閱讀 67,984評(píng)論 6 393
  • 文/花漫 我一把揭開(kāi)白布窿锉。 她就那樣靜靜地躺著,像睡著了一般窖维。 火紅的嫁衣襯著肌膚如雪榆综。 梳的紋絲不亂的頭發(fā)上,一...
    開(kāi)封第一講書(shū)人閱讀 51,763評(píng)論 1 307
  • 那天铸史,我揣著相機(jī)與錄音,去河邊找鬼怯伊。 笑死琳轿,一個(gè)胖子當(dāng)著我的面吹牛,可吹牛的內(nèi)容都是我干的耿芹。 我是一名探鬼主播崭篡,決...
    沈念sama閱讀 40,468評(píng)論 3 420
  • 文/蒼蘭香墨 我猛地睜開(kāi)眼,長(zhǎng)吁一口氣:“原來(lái)是場(chǎng)噩夢(mèng)啊……” “哼吧秕!你這毒婦竟也來(lái)了琉闪?” 一聲冷哼從身側(cè)響起,我...
    開(kāi)封第一講書(shū)人閱讀 39,357評(píng)論 0 276
  • 序言:老撾萬(wàn)榮一對(duì)情侶失蹤砸彬,失蹤者是張志新(化名)和其女友劉穎颠毙,沒(méi)想到半個(gè)月后,有當(dāng)?shù)厝嗽跇?shù)林里發(fā)現(xiàn)了一具尸體砂碉,經(jīng)...
    沈念sama閱讀 45,850評(píng)論 1 317
  • 正文 獨(dú)居荒郊野嶺守林人離奇死亡蛀蜜,尸身上長(zhǎng)有42處帶血的膿包…… 初始之章·張勛 以下內(nèi)容為張勛視角 年9月15日...
    茶點(diǎn)故事閱讀 38,002評(píng)論 3 338
  • 正文 我和宋清朗相戀三年,在試婚紗的時(shí)候發(fā)現(xiàn)自己被綠了增蹭。 大學(xué)時(shí)的朋友給我發(fā)了我未婚夫和他白月光在一起吃飯的照片滴某。...
    茶點(diǎn)故事閱讀 40,144評(píng)論 1 351
  • 序言:一個(gè)原本活蹦亂跳的男人離奇死亡,死狀恐怖滋迈,靈堂內(nèi)的尸體忽然破棺而出霎奢,到底是詐尸還是另有隱情,我是刑警寧澤饼灿,帶...
    沈念sama閱讀 35,823評(píng)論 5 346
  • 正文 年R本政府宣布幕侠,位于F島的核電站,受9級(jí)特大地震影響赔退,放射性物質(zhì)發(fā)生泄漏橙依。R本人自食惡果不足惜证舟,卻給世界環(huán)境...
    茶點(diǎn)故事閱讀 41,483評(píng)論 3 331
  • 文/蒙蒙 一、第九天 我趴在偏房一處隱蔽的房頂上張望窗骑。 院中可真熱鬧女责,春花似錦、人聲如沸创译。這莊子的主人今日做“春日...
    開(kāi)封第一講書(shū)人閱讀 32,026評(píng)論 0 22
  • 文/蒼蘭香墨 我抬頭看了看天上的太陽(yáng)软族。三九已至刷喜,卻和暖如春,著一層夾襖步出監(jiān)牢的瞬間立砸,已是汗流浹背掖疮。 一陣腳步聲響...
    開(kāi)封第一講書(shū)人閱讀 33,150評(píng)論 1 272
  • 我被黑心中介騙來(lái)泰國(guó)打工, 沒(méi)想到剛下飛機(jī)就差點(diǎn)兒被人妖公主榨干…… 1. 我叫王不留颗祝,地道東北人浊闪。 一個(gè)月前我還...
    沈念sama閱讀 48,415評(píng)論 3 373
  • 正文 我出身青樓,卻偏偏與公主長(zhǎng)得像螺戳,于是被迫代替她去往敵國(guó)和親搁宾。 傳聞我的和親對(duì)象是個(gè)殘疾皇子,可洞房花燭夜當(dāng)晚...
    茶點(diǎn)故事閱讀 45,092評(píng)論 2 355

推薦閱讀更多精彩內(nèi)容