hbase-mutator踩坑

spark-streaming消費kafka數(shù)據(jù)梢睛,采用buffermutator寫hbase踩坑記

場景

otter同步mysql的數(shù)據(jù)到kafka,spark-streaming消費kafka,采用mutator異步寫hbase尺上。mysql的insert金顿,update,delete特別頻繁贰您,每秒都有大量的insert坏平,delete,update

以下都是基于同一條數(shù)據(jù)操作

1. ?坑 Delete(byte [] row), Put(byte[] row)锦亦,

bufferedmutator寫hbase的時候 同一條數(shù)據(jù)先 delete 再put 舶替,

遇到的問題:

hbase顯示沒這個數(shù)據(jù);就是bufferedmutator處理數(shù)據(jù)亂序了(每次測試都是hbase找不到數(shù)據(jù))

解決的途徑:

遇坑后杠园,百度找到https://developer.aliyun.com/ask/129312?spm=a2c6h.13159736這篇文章顾瞪。意思就是new 對象 加上時間戳

2.坑 Delete(byte [] row, long timestamp) ,Put(byte[] row, long ts)?

代碼里時間戳使用System.currentTimeMillis()

遇到的問題:

spark-streaming處理數(shù)據(jù)的時候抛蚁,一個批次rdd遍歷起來很快陈醒,難免兩個System.currentTimeMillis()一樣,此時就和方法1一樣瞧甩,達不到先delete钉跷,后insert的效果,依然沒有解決(反復測試肚逸,確實有兩個時間戳一樣)

解決的途徑:

上邊的時間戳加1操作爷辙,使兩個時間戳不一樣

參照https://issues.apache.org/jira/browse/HBASE-8626?focusedCommentId=13669455&page=com.atlassian.jira.plugin.system.issuetabpanels%3Acomment-tabpanel#comment-13669455?hbase的issue就是上邊mutator踩坑實錄

longnow =System.currentTimeMillis();?

?Delete delete =newDelete(row);?

?delete.deleteFamily(cf1, now);?

?Put put1 =newPut(row);

?put1.add(cf1,col1,now+1);

最后編輯于
?著作權(quán)歸作者所有,轉(zhuǎn)載或內(nèi)容合作請聯(lián)系作者
  • 序言:七十年代末,一起剝皮案震驚了整個濱河市吼虎,隨后出現(xiàn)的幾起案子犬钢,更是在濱河造成了極大的恐慌,老刑警劉巖思灰,帶你破解...
    沈念sama閱讀 218,284評論 6 506
  • 序言:濱河連續(xù)發(fā)生了三起死亡事件玷犹,死亡現(xiàn)場離奇詭異,居然都是意外死亡洒疚,警方通過查閱死者的電腦和手機歹颓,發(fā)現(xiàn)死者居然都...
    沈念sama閱讀 93,115評論 3 395
  • 文/潘曉璐 我一進店門,熙熙樓的掌柜王于貴愁眉苦臉地迎上來油湖,“玉大人巍扛,你說我怎么就攤上這事》Φ拢” “怎么了撤奸?”我有些...
    開封第一講書人閱讀 164,614評論 0 354
  • 文/不壞的土叔 我叫張陵吠昭,是天一觀的道長。 經(jīng)常有香客問我胧瓜,道長矢棚,這世上最難降的妖魔是什么? 我笑而不...
    開封第一講書人閱讀 58,671評論 1 293
  • 正文 為了忘掉前任府喳,我火速辦了婚禮蒲肋,結(jié)果婚禮上,老公的妹妹穿的比我還像新娘钝满。我一直安慰自己兜粘,他們只是感情好,可當我...
    茶點故事閱讀 67,699評論 6 392
  • 文/花漫 我一把揭開白布弯蚜。 她就那樣靜靜地躺著孔轴,像睡著了一般。 火紅的嫁衣襯著肌膚如雪碎捺。 梳的紋絲不亂的頭發(fā)上距糖,一...
    開封第一講書人閱讀 51,562評論 1 305
  • 那天,我揣著相機與錄音牵寺,去河邊找鬼。 笑死恩脂,一個胖子當著我的面吹牛帽氓,可吹牛的內(nèi)容都是我干的。 我是一名探鬼主播俩块,決...
    沈念sama閱讀 40,309評論 3 418
  • 文/蒼蘭香墨 我猛地睜開眼黎休,長吁一口氣:“原來是場噩夢啊……” “哼!你這毒婦竟也來了玉凯?” 一聲冷哼從身側(cè)響起势腮,我...
    開封第一講書人閱讀 39,223評論 0 276
  • 序言:老撾萬榮一對情侶失蹤,失蹤者是張志新(化名)和其女友劉穎漫仆,沒想到半個月后捎拯,有當?shù)厝嗽跇淞掷锇l(fā)現(xiàn)了一具尸體,經(jīng)...
    沈念sama閱讀 45,668評論 1 314
  • 正文 獨居荒郊野嶺守林人離奇死亡盲厌,尸身上長有42處帶血的膿包…… 初始之章·張勛 以下內(nèi)容為張勛視角 年9月15日...
    茶點故事閱讀 37,859評論 3 336
  • 正文 我和宋清朗相戀三年署照,在試婚紗的時候發(fā)現(xiàn)自己被綠了。 大學時的朋友給我發(fā)了我未婚夫和他白月光在一起吃飯的照片吗浩。...
    茶點故事閱讀 39,981評論 1 348
  • 序言:一個原本活蹦亂跳的男人離奇死亡建芙,死狀恐怖,靈堂內(nèi)的尸體忽然破棺而出懂扼,到底是詐尸還是另有隱情禁荸,我是刑警寧澤右蒲,帶...
    沈念sama閱讀 35,705評論 5 347
  • 正文 年R本政府宣布,位于F島的核電站赶熟,受9級特大地震影響瑰妄,放射性物質(zhì)發(fā)生泄漏。R本人自食惡果不足惜钧大,卻給世界環(huán)境...
    茶點故事閱讀 41,310評論 3 330
  • 文/蒙蒙 一翰撑、第九天 我趴在偏房一處隱蔽的房頂上張望。 院中可真熱鬧啊央,春花似錦眶诈、人聲如沸。這莊子的主人今日做“春日...
    開封第一講書人閱讀 31,904評論 0 22
  • 文/蒼蘭香墨 我抬頭看了看天上的太陽。三九已至乓土,卻和暖如春宪潮,著一層夾襖步出監(jiān)牢的瞬間,已是汗流浹背趣苏。 一陣腳步聲響...
    開封第一講書人閱讀 33,023評論 1 270
  • 我被黑心中介騙來泰國打工狡相, 沒想到剛下飛機就差點兒被人妖公主榨干…… 1. 我叫王不留,地道東北人食磕。 一個月前我還...
    沈念sama閱讀 48,146評論 3 370
  • 正文 我出身青樓尽棕,卻偏偏與公主長得像,于是被迫代替她去往敵國和親彬伦。 傳聞我的和親對象是個殘疾皇子滔悉,可洞房花燭夜當晚...
    茶點故事閱讀 44,933評論 2 355