Druid :大數(shù)據(jù)實(shí)時(shí)處理的開(kāi)源分布式系統(tǒng)(1)

引言

Druid 是一個(gè)快速别洪,近實(shí)時(shí)的查詢(xún)海量只讀數(shù)據(jù)的系統(tǒng)叨恨。Druid 的目標(biāo)是可用性要達(dá)到100%,即使在部署新代碼挖垛,或者某些節(jié)點(diǎn) down 機(jī)的情況下痒钝。

Druid 目前支持的單表查詢(xún)方式和 Dremel,PowerDrill 比較相似痢毒。它的主要特性如下:

1.支持嵌套數(shù)據(jù)的列式存儲(chǔ)
2.層級(jí)查詢(xún)
3.二級(jí)索引
4.實(shí)時(shí)數(shù)據(jù)抽取
5.分布式容錯(cuò)架構(gòu)

同 PowerDrill 和 Dremel 相比送矩,從功能的角度來(lái)說(shuō),Druid 幾乎實(shí)現(xiàn)了 Dremel 提供的所有功能闸准,并且參考了 PowerDrill 的數(shù)據(jù)存儲(chǔ)和壓縮方法益愈。

Druid非常適合需要實(shí)時(shí)從一個(gè)數(shù)據(jù)流中攝取大量數(shù)據(jù)的產(chǎn)品。特別的夷家,如果您希望零宕機(jī)蒸其,并且您的數(shù)據(jù)是時(shí)間序列數(shù)據(jù),就再適合不過(guò)了库快。如何您更需要查詢(xún)的靈活性和原始數(shù)據(jù)摸袁,那 Druid 就不是一個(gè)很好地選擇。

架構(gòu)
Druid 是由一系列不同角色的組件組成的系統(tǒng)义屏。不同的組件如下:

歷史節(jié)點(diǎn)(Historical Node):

該節(jié)點(diǎn)負(fù)責(zé)存儲(chǔ)數(shù)據(jù)和查詢(xún)靠汁。歷史節(jié)點(diǎn)從深度存儲(chǔ)中下載數(shù)據(jù)分片(segment)蜂大,并且響應(yīng)來(lái)自查詢(xún)節(jié)點(diǎn)的查詢(xún)。歷史節(jié)點(diǎn)會(huì)定期刷新本身存貯的 數(shù)據(jù)分片信息到 zookeeper蝶怔,并且通過(guò) zookeeper得到需要加載或者卸載哪些數(shù)據(jù)分片奶浦。

實(shí)時(shí)節(jié)點(diǎn)(Realtime Node):

實(shí)時(shí)節(jié)點(diǎn)負(fù)責(zé)攝取實(shí)時(shí)數(shù)據(jù)。它們負(fù)責(zé)監(jiān)聽(tīng)一個(gè)數(shù)據(jù)流踢星,并把數(shù)據(jù)發(fā)到 Druid 系統(tǒng)當(dāng)中澳叉。實(shí)時(shí)節(jié)點(diǎn)也接受來(lái)自查詢(xún)節(jié)點(diǎn)的查詢(xún),并把結(jié)果返回沐悦。實(shí)時(shí)節(jié)點(diǎn)會(huì)把歷史數(shù)據(jù)寫(xiě)到深度存儲(chǔ)中成洗。實(shí)時(shí)節(jié)點(diǎn)會(huì)查詢(xún) zookeeper,并確認(rèn)當(dāng)前存儲(chǔ)在實(shí)時(shí)節(jié)點(diǎn)的數(shù)據(jù)分片是否已經(jīng)上傳至歷史節(jié)點(diǎn)藏否。如果已經(jīng)上傳瓶殃,實(shí)時(shí)節(jié)點(diǎn)將刪除該數(shù)據(jù)分片。

協(xié)調(diào)節(jié)點(diǎn)(coordinator node):

協(xié)調(diào)節(jié)點(diǎn)會(huì)監(jiān)控所有的歷史節(jié)點(diǎn)副签,確保所有數(shù)據(jù)是可用的遥椿,多副本的。協(xié)調(diào)節(jié)點(diǎn)會(huì)從存儲(chǔ) meta data 數(shù)據(jù)源中讀取 meta data 信息淆储,去決定哪些數(shù)據(jù)分片應(yīng)該在 druid 集群當(dāng)中修壕。協(xié)調(diào)節(jié)點(diǎn)用 zookeeper 發(fā)現(xiàn)哪些歷史節(jié)點(diǎn)存在,并且通過(guò) zookeeper 去通知?dú)v史節(jié)點(diǎn)裝載和卸載相應(yīng)的數(shù)據(jù)分片遏考。

查詢(xún)節(jié)點(diǎn)(broker node):

查詢(xún)節(jié)點(diǎn)接受從客戶(hù)端來(lái)的查詢(xún),并轉(zhuǎn)發(fā)這些查詢(xún)到實(shí)時(shí)節(jié)點(diǎn)和歷史節(jié)點(diǎn)蓝谨。查詢(xún)節(jié)點(diǎn)得到分別來(lái)自實(shí)時(shí)節(jié)點(diǎn)和歷史節(jié)點(diǎn)的數(shù)據(jù)后灌具,對(duì)這些數(shù)據(jù)進(jìn)行合并,然后返回給客戶(hù)端譬巫。查詢(xún)節(jié)點(diǎn)也是利用zookeeper 去發(fā)現(xiàn)實(shí)時(shí)和歷史節(jié)點(diǎn)的存在咖楣。

這種節(jié)點(diǎn)劃分方式使得不同節(jié)點(diǎn)只需要處理好自己擅長(zhǎng)的事情。

下面是在這個(gè)架構(gòu)下地?cái)?shù)據(jù)流圖:


Druid 簡(jiǎn)介

下面這張圖芦昔,顯示的是 Druid 集群是如何運(yùn)作管理的诱贿,顯示了節(jié)點(diǎn)之間是如何通過(guò) meta data 進(jìn)行協(xié)調(diào)運(yùn)作的


Druid 簡(jiǎn)介

(未完待續(xù))


OneAPM Mobile Insight 以真實(shí)用戶(hù)體驗(yàn)為度量標(biāo)準(zhǔn)進(jìn)行 Crash 分析,監(jiān)控網(wǎng)絡(luò)請(qǐng)求及網(wǎng)絡(luò)錯(cuò)誤咕缎,提升用戶(hù)留存珠十。訪(fǎng)問(wèn) OneAPM 官方網(wǎng)站感受更多應(yīng)用性能優(yōu)化體驗(yàn),想閱讀更多技術(shù)文章凭豪,請(qǐng)?jiān)L問(wèn) OneAPM 官方技術(shù)博客焙蹭。

最后編輯于
?著作權(quán)歸作者所有,轉(zhuǎn)載或內(nèi)容合作請(qǐng)聯(lián)系作者
  • 序言:七十年代末,一起剝皮案震驚了整個(gè)濱河市嫂伞,隨后出現(xiàn)的幾起案子孔厉,更是在濱河造成了極大的恐慌拯钻,老刑警劉巖,帶你破解...
    沈念sama閱讀 206,126評(píng)論 6 481
  • 序言:濱河連續(xù)發(fā)生了三起死亡事件撰豺,死亡現(xiàn)場(chǎng)離奇詭異粪般,居然都是意外死亡,警方通過(guò)查閱死者的電腦和手機(jī)污桦,發(fā)現(xiàn)死者居然都...
    沈念sama閱讀 88,254評(píng)論 2 382
  • 文/潘曉璐 我一進(jìn)店門(mén)亩歹,熙熙樓的掌柜王于貴愁眉苦臉地迎上來(lái),“玉大人寡润,你說(shuō)我怎么就攤上這事捆憎。” “怎么了梭纹?”我有些...
    開(kāi)封第一講書(shū)人閱讀 152,445評(píng)論 0 341
  • 文/不壞的土叔 我叫張陵躲惰,是天一觀(guān)的道長(zhǎng)。 經(jīng)常有香客問(wèn)我变抽,道長(zhǎng)础拨,這世上最難降的妖魔是什么? 我笑而不...
    開(kāi)封第一講書(shū)人閱讀 55,185評(píng)論 1 278
  • 正文 為了忘掉前任绍载,我火速辦了婚禮诡宗,結(jié)果婚禮上,老公的妹妹穿的比我還像新娘击儡。我一直安慰自己塔沃,他們只是感情好,可當(dāng)我...
    茶點(diǎn)故事閱讀 64,178評(píng)論 5 371
  • 文/花漫 我一把揭開(kāi)白布阳谍。 她就那樣靜靜地躺著蛀柴,像睡著了一般。 火紅的嫁衣襯著肌膚如雪矫夯。 梳的紋絲不亂的頭發(fā)上鸽疾,一...
    開(kāi)封第一講書(shū)人閱讀 48,970評(píng)論 1 284
  • 那天,我揣著相機(jī)與錄音训貌,去河邊找鬼制肮。 笑死,一個(gè)胖子當(dāng)著我的面吹牛递沪,可吹牛的內(nèi)容都是我干的豺鼻。 我是一名探鬼主播,決...
    沈念sama閱讀 38,276評(píng)論 3 399
  • 文/蒼蘭香墨 我猛地睜開(kāi)眼款慨,長(zhǎng)吁一口氣:“原來(lái)是場(chǎng)噩夢(mèng)啊……” “哼拘领!你這毒婦竟也來(lái)了?” 一聲冷哼從身側(cè)響起樱调,我...
    開(kāi)封第一講書(shū)人閱讀 36,927評(píng)論 0 259
  • 序言:老撾萬(wàn)榮一對(duì)情侶失蹤约素,失蹤者是張志新(化名)和其女友劉穎届良,沒(méi)想到半個(gè)月后,有當(dāng)?shù)厝嗽跇?shù)林里發(fā)現(xiàn)了一具尸體圣猎,經(jīng)...
    沈念sama閱讀 43,400評(píng)論 1 300
  • 正文 獨(dú)居荒郊野嶺守林人離奇死亡士葫,尸身上長(zhǎng)有42處帶血的膿包…… 初始之章·張勛 以下內(nèi)容為張勛視角 年9月15日...
    茶點(diǎn)故事閱讀 35,883評(píng)論 2 323
  • 正文 我和宋清朗相戀三年,在試婚紗的時(shí)候發(fā)現(xiàn)自己被綠了送悔。 大學(xué)時(shí)的朋友給我發(fā)了我未婚夫和他白月光在一起吃飯的照片慢显。...
    茶點(diǎn)故事閱讀 37,997評(píng)論 1 333
  • 序言:一個(gè)原本活蹦亂跳的男人離奇死亡,死狀恐怖欠啤,靈堂內(nèi)的尸體忽然破棺而出荚藻,到底是詐尸還是另有隱情,我是刑警寧澤洁段,帶...
    沈念sama閱讀 33,646評(píng)論 4 322
  • 正文 年R本政府宣布应狱,位于F島的核電站,受9級(jí)特大地震影響祠丝,放射性物質(zhì)發(fā)生泄漏疾呻。R本人自食惡果不足惜,卻給世界環(huán)境...
    茶點(diǎn)故事閱讀 39,213評(píng)論 3 307
  • 文/蒙蒙 一写半、第九天 我趴在偏房一處隱蔽的房頂上張望岸蜗。 院中可真熱鬧,春花似錦叠蝇、人聲如沸璃岳。這莊子的主人今日做“春日...
    開(kāi)封第一講書(shū)人閱讀 30,204評(píng)論 0 19
  • 文/蒼蘭香墨 我抬頭看了看天上的太陽(yáng)矾睦。三九已至,卻和暖如春炎功,著一層夾襖步出監(jiān)牢的瞬間,已是汗流浹背缓溅。 一陣腳步聲響...
    開(kāi)封第一講書(shū)人閱讀 31,423評(píng)論 1 260
  • 我被黑心中介騙來(lái)泰國(guó)打工蛇损, 沒(méi)想到剛下飛機(jī)就差點(diǎn)兒被人妖公主榨干…… 1. 我叫王不留,地道東北人坛怪。 一個(gè)月前我還...
    沈念sama閱讀 45,423評(píng)論 2 352
  • 正文 我出身青樓淤齐,卻偏偏與公主長(zhǎng)得像,于是被迫代替她去往敵國(guó)和親袜匿。 傳聞我的和親對(duì)象是個(gè)殘疾皇子更啄,可洞房花燭夜當(dāng)晚...
    茶點(diǎn)故事閱讀 42,722評(píng)論 2 345

推薦閱讀更多精彩內(nèi)容