Replication 0.98

Replication會在Region Server初始化HLog的時候啟動森爽, 具體流程如下:

  1. 判斷replication是否打開
  2. 配置 sourceClassname和sinkClassname 看來可以配置寫到不同的系統(tǒng)中
  3. 如果source和sink用的是相同的class渠抹, 則復(fù)用一個replicationSourceHandler幽崩, 否則各自建一個replicationSourceHandler(如果不配置都是Replication這個類) -> initialize
  4. 初始化replication線程焦影, 具體線程如下:
    replicationQueue: 存儲在zk上
zk上每個regionserver會有一個節(jié)點鳞绕, 里面有該rs上的所有hlog
即: /hbase/replication/rs/hostname.example.org,6020,1234/1
        /hbase/replication/rs/hostname.example.org,6020,1234/2
每個hlog節(jié)點會記錄被備份到的最近位置
       /hbase/replication/rs/hostname.example.org,6020,1234/1/23522342.23422 [VALUE: 254]

replicationPeers: 同樣存儲在zk上

根據(jù)用戶在創(chuàng)建時的peer_id創(chuàng)建的  /hbase/replication/peers/1 [Value: zk1.host.com,zk2.host.com,zk3.host.com:2181:/hbase], 存的信息是對應(yīng)的zk值以及hbase的znode
每個peer都有一個指示當(dāng)前狀態(tài)的znode
/hbase/replication/peers/1/peer-state [Value: ENABLED]
每個peer都有一個指示哪些表需要被replicate的znode
/hbase/replication/peers/1/tableCFs [Value: "table1; table2:cf1,cf3; table3:cfx,cfy"]

replicationTracker

主要是注冊了兩個watcher
OtherRegionServerWatcher:當(dāng)有別的機(jī)器掛的時候會通知
PeersWatcher:當(dāng)有peer被創(chuàng)建或者刪除的時候會通知

replicationSourceManager:

initialize的時候會把deadserver上的queue去grab到自己的node上饥努, 跟split HLog的邏輯相同
  1. 創(chuàng)建完ReplicationInstance以及相關(guān)線程之后氧急, 會馬上調(diào)用instantiateHLog(rootDir, logName)颗胡, 里面會調(diào)用getWALActionListeners, 這一步實際就是把replicationSourceHandler注冊到WALActionListeners中, 這樣在對HLog進(jìn)行操作時都會觸發(fā)listener操作吩坝。

之后在regionserver啟動服務(wù)線程的時候會啟動replicationSourceHandler

1. 啟動replicationManager
  為每個peer創(chuàng)建ReplicationSource: 里面會創(chuàng)建ReplicationEndpoint, 相當(dāng)于拷貝時客戶端的角色
  嘗試把deadserver上的replicationQueue 拿到自己這里進(jìn)行處理
2. 啟動replicationSink
  創(chuàng)建一個對應(yīng)集群的HConnection
3. 啟動ReplicationStatisticsThread
  周期性打印replication數(shù)據(jù)

到目前為止毒姨, 準(zhǔn)備工作都已經(jīng)就緒, 下面看下在寫入數(shù)據(jù)時是如何觸發(fā)replication的:

  • replication 并不是每次寫入HLog都會觸發(fā)钉寝, 而是在每次LogRoll的時候:
preLogRoll -> 在zk上創(chuàng)建該log的znode
postLogRoll -> 把該log放入各個ReplicationSource的隊列中等待被處理

接著就是ReplicationSource真正處理Log的邏輯了

首先check一些設(shè)置是否正確
然后看下這個replicationLog是不是recover的弧呐, 如果是就會seek到上次的位置
終于開始處理log了闸迷, 會給log做一個snapshot
開始傳輸啦(沒有詳細(xì)看)
更新ReplicationPosition

先暫時寫到這, 目前replication log具體備份的細(xì)節(jié)沒有看俘枫, 還有故障再分配的細(xì)節(jié)也還沒看

最后編輯于
?著作權(quán)歸作者所有,轉(zhuǎn)載或內(nèi)容合作請聯(lián)系作者
  • 序言:七十年代末腥沽,一起剝皮案震驚了整個濱河市,隨后出現(xiàn)的幾起案子鸠蚪,更是在濱河造成了極大的恐慌今阳,老刑警劉巖,帶你破解...
    沈念sama閱讀 217,542評論 6 504
  • 序言:濱河連續(xù)發(fā)生了三起死亡事件茅信,死亡現(xiàn)場離奇詭異盾舌,居然都是意外死亡,警方通過查閱死者的電腦和手機(jī)汹押,發(fā)現(xiàn)死者居然都...
    沈念sama閱讀 92,822評論 3 394
  • 文/潘曉璐 我一進(jìn)店門,熙熙樓的掌柜王于貴愁眉苦臉地迎上來起便,“玉大人棚贾,你說我怎么就攤上這事∮茏郏” “怎么了妙痹?”我有些...
    開封第一講書人閱讀 163,912評論 0 354
  • 文/不壞的土叔 我叫張陵,是天一觀的道長鼻疮。 經(jīng)常有香客問我怯伊,道長,這世上最難降的妖魔是什么判沟? 我笑而不...
    開封第一講書人閱讀 58,449評論 1 293
  • 正文 為了忘掉前任耿芹,我火速辦了婚禮,結(jié)果婚禮上挪哄,老公的妹妹穿的比我還像新娘吧秕。我一直安慰自己,他們只是感情好迹炼,可當(dāng)我...
    茶點故事閱讀 67,500評論 6 392
  • 文/花漫 我一把揭開白布砸彬。 她就那樣靜靜地躺著,像睡著了一般斯入。 火紅的嫁衣襯著肌膚如雪砂碉。 梳的紋絲不亂的頭發(fā)上,一...
    開封第一講書人閱讀 51,370評論 1 302
  • 那天刻两,我揣著相機(jī)與錄音增蹭,去河邊找鬼。 笑死磅摹,一個胖子當(dāng)著我的面吹牛沪铭,可吹牛的內(nèi)容都是我干的壮池。 我是一名探鬼主播,決...
    沈念sama閱讀 40,193評論 3 418
  • 文/蒼蘭香墨 我猛地睜開眼杀怠,長吁一口氣:“原來是場噩夢啊……” “哼椰憋!你這毒婦竟也來了?” 一聲冷哼從身側(cè)響起赔退,我...
    開封第一講書人閱讀 39,074評論 0 276
  • 序言:老撾萬榮一對情侶失蹤橙依,失蹤者是張志新(化名)和其女友劉穎,沒想到半個月后硕旗,有當(dāng)?shù)厝嗽跇淞掷锇l(fā)現(xiàn)了一具尸體窗骑,經(jīng)...
    沈念sama閱讀 45,505評論 1 314
  • 正文 獨居荒郊野嶺守林人離奇死亡,尸身上長有42處帶血的膿包…… 初始之章·張勛 以下內(nèi)容為張勛視角 年9月15日...
    茶點故事閱讀 37,722評論 3 335
  • 正文 我和宋清朗相戀三年漆枚,在試婚紗的時候發(fā)現(xiàn)自己被綠了创译。 大學(xué)時的朋友給我發(fā)了我未婚夫和他白月光在一起吃飯的照片。...
    茶點故事閱讀 39,841評論 1 348
  • 序言:一個原本活蹦亂跳的男人離奇死亡墙基,死狀恐怖软族,靈堂內(nèi)的尸體忽然破棺而出,到底是詐尸還是另有隱情残制,我是刑警寧澤立砸,帶...
    沈念sama閱讀 35,569評論 5 345
  • 正文 年R本政府宣布,位于F島的核電站初茶,受9級特大地震影響颗祝,放射性物質(zhì)發(fā)生泄漏。R本人自食惡果不足惜恼布,卻給世界環(huán)境...
    茶點故事閱讀 41,168評論 3 328
  • 文/蒙蒙 一螺戳、第九天 我趴在偏房一處隱蔽的房頂上張望。 院中可真熱鬧折汞,春花似錦温峭、人聲如沸。這莊子的主人今日做“春日...
    開封第一講書人閱讀 31,783評論 0 22
  • 文/蒼蘭香墨 我抬頭看了看天上的太陽。三九已至堕伪,卻和暖如春揖庄,著一層夾襖步出監(jiān)牢的瞬間,已是汗流浹背欠雌。 一陣腳步聲響...
    開封第一講書人閱讀 32,918評論 1 269
  • 我被黑心中介騙來泰國打工蹄梢, 沒想到剛下飛機(jī)就差點兒被人妖公主榨干…… 1. 我叫王不留,地道東北人。 一個月前我還...
    沈念sama閱讀 47,962評論 2 370
  • 正文 我出身青樓禁炒,卻偏偏與公主長得像而咆,于是被迫代替她去往敵國和親。 傳聞我的和親對象是個殘疾皇子幕袱,可洞房花燭夜當(dāng)晚...
    茶點故事閱讀 44,781評論 2 354

推薦閱讀更多精彩內(nèi)容

  • 簡介 [HBase]——Hadoop Database的簡稱暴备,Google BigTable的另一種開源實現(xiàn)方式,...
    高廣超閱讀 2,347評論 1 27
  • Spring Cloud為開發(fā)人員提供了快速構(gòu)建分布式系統(tǒng)中一些常見模式的工具(例如配置管理们豌,服務(wù)發(fā)現(xiàn)涯捻,斷路器,智...
    卡卡羅2017閱讀 134,656評論 18 139
  • kafka的定義:是一個分布式消息系統(tǒng)望迎,由LinkedIn使用Scala編寫障癌,用作LinkedIn的活動流(Act...
    時待吾閱讀 5,320評論 1 15
  • 本文轉(zhuǎn)載自http://dataunion.org/?p=9307 背景介紹Kafka簡介Kafka是一種分布式的...
    Bottle丶Fish閱讀 5,469評論 0 34
  • 上一章 香案——結(jié)拜 晚上筱眠剛爬上游戲,無敵大神的組隊就來了辩尊,隊里還有另外一個不認(rèn)識的奶爸大神涛浙。 [隊伍]狂魔無...
    夏暖冬涼的故事閱讀 338評論 1 1