StreamSets update和delete分離之后導致的操作順序錯亂

現(xiàn)象:

當期的操作流程如下圖:


clipboard.png

這樣的處理流程會造成如下問題:

1衔瓮、當binlog解析出的批次數(shù)據(jù)中挥萌,數(shù)據(jù)包含了對同一條數(shù)據(jù)的刪除和修改操作時悍引,無法保證操作執(zhí)行的順序家肯。

解決方案(針對kudu的Destination):
Kudu的Destination中有個設(shè)置Default Operation ,這個設(shè)置的說明是:

default operation to perform if sdc.operation.type is not set in record header.

所以我們可以通過Record的Header Attribute 中的sdc.opeation.type來直接控制數(shù)據(jù)在kudu的Destination中執(zhí)行的操作畸颅。
對數(shù)據(jù)的操作不進行分離担巩,通過sdc.operation.type加入的Record的Header Attributes中進行控制。
sdc.operation.type的值的說明如下:

  • INSERT_CODE = 1;
  • DELETE_CODE = 2;
  • UPDATE_CODE = 3;
  • UPSERT_CODE = 4;

在Javascript Evaluator 中的JS中增加如下的代碼:

for(var i = 0; i < records.length; i++) {
try {
  var newRecord = sdcFunctions.createRecord(true);
  var attributes = records[i].attributes
  if(records[i].value['Type'] =='DELETE'){
    newRecord.attributes['sdc.operation.type']='2';
    newRecord.value = records[i].value['OldData'];
  }else{
    newRecord.attributes['sdc.operation.type']='4'
    newRecord.value = records[i].value['Data'];
  }
  newRecord.value.Type = records[i].value['Type'];
  newRecord.value.Database = records[i].value['Database'];
  newRecord.value.Table = records[i].value['Table'];
  output.write(newRecord);
} catch (e) {
  // Send record to error
  error.write(records[i], e);
  }
}
``
?著作權(quán)歸作者所有,轉(zhuǎn)載或內(nèi)容合作請聯(lián)系作者
  • 序言:七十年代末没炒,一起剝皮案震驚了整個濱河市涛癌,隨后出現(xiàn)的幾起案子,更是在濱河造成了極大的恐慌送火,老刑警劉巖拳话,帶你破解...
    沈念sama閱讀 206,482評論 6 481
  • 序言:濱河連續(xù)發(fā)生了三起死亡事件,死亡現(xiàn)場離奇詭異种吸,居然都是意外死亡弃衍,警方通過查閱死者的電腦和手機,發(fā)現(xiàn)死者居然都...
    沈念sama閱讀 88,377評論 2 382
  • 文/潘曉璐 我一進店門坚俗,熙熙樓的掌柜王于貴愁眉苦臉地迎上來镜盯,“玉大人,你說我怎么就攤上這事坦冠⌒魏模” “怎么了?”我有些...
    開封第一講書人閱讀 152,762評論 0 342
  • 文/不壞的土叔 我叫張陵辙浑,是天一觀的道長激涤。 經(jīng)常有香客問我,道長判呕,這世上最難降的妖魔是什么倦踢? 我笑而不...
    開封第一講書人閱讀 55,273評論 1 279
  • 正文 為了忘掉前任,我火速辦了婚禮侠草,結(jié)果婚禮上辱挥,老公的妹妹穿的比我還像新娘。我一直安慰自己边涕,他們只是感情好晤碘,可當我...
    茶點故事閱讀 64,289評論 5 373
  • 文/花漫 我一把揭開白布。 她就那樣靜靜地躺著功蜓,像睡著了一般园爷。 火紅的嫁衣襯著肌膚如雪。 梳的紋絲不亂的頭發(fā)上式撼,一...
    開封第一講書人閱讀 49,046評論 1 285
  • 那天童社,我揣著相機與錄音,去河邊找鬼著隆。 笑死扰楼,一個胖子當著我的面吹牛呀癣,可吹牛的內(nèi)容都是我干的。 我是一名探鬼主播弦赖,決...
    沈念sama閱讀 38,351評論 3 400
  • 文/蒼蘭香墨 我猛地睜開眼项栏,長吁一口氣:“原來是場噩夢啊……” “哼!你這毒婦竟也來了腾节?” 一聲冷哼從身側(cè)響起忘嫉,我...
    開封第一講書人閱讀 36,988評論 0 259
  • 序言:老撾萬榮一對情侶失蹤荤牍,失蹤者是張志新(化名)和其女友劉穎案腺,沒想到半個月后,有當?shù)厝嗽跇淞掷锇l(fā)現(xiàn)了一具尸體康吵,經(jīng)...
    沈念sama閱讀 43,476評論 1 300
  • 正文 獨居荒郊野嶺守林人離奇死亡劈榨,尸身上長有42處帶血的膿包…… 初始之章·張勛 以下內(nèi)容為張勛視角 年9月15日...
    茶點故事閱讀 35,948評論 2 324
  • 正文 我和宋清朗相戀三年,在試婚紗的時候發(fā)現(xiàn)自己被綠了晦嵌。 大學時的朋友給我發(fā)了我未婚夫和他白月光在一起吃飯的照片同辣。...
    茶點故事閱讀 38,064評論 1 333
  • 序言:一個原本活蹦亂跳的男人離奇死亡,死狀恐怖惭载,靈堂內(nèi)的尸體忽然破棺而出旱函,到底是詐尸還是另有隱情,我是刑警寧澤描滔,帶...
    沈念sama閱讀 33,712評論 4 323
  • 正文 年R本政府宣布棒妨,位于F島的核電站,受9級特大地震影響含长,放射性物質(zhì)發(fā)生泄漏券腔。R本人自食惡果不足惜,卻給世界環(huán)境...
    茶點故事閱讀 39,261評論 3 307
  • 文/蒙蒙 一拘泞、第九天 我趴在偏房一處隱蔽的房頂上張望纷纫。 院中可真熱鬧,春花似錦陪腌、人聲如沸辱魁。這莊子的主人今日做“春日...
    開封第一講書人閱讀 30,264評論 0 19
  • 文/蒼蘭香墨 我抬頭看了看天上的太陽染簇。三九已至,卻和暖如春只泼,著一層夾襖步出監(jiān)牢的瞬間剖笙,已是汗流浹背。 一陣腳步聲響...
    開封第一講書人閱讀 31,486評論 1 262
  • 我被黑心中介騙來泰國打工请唱, 沒想到剛下飛機就差點兒被人妖公主榨干…… 1. 我叫王不留弥咪,地道東北人过蹂。 一個月前我還...
    沈念sama閱讀 45,511評論 2 354
  • 正文 我出身青樓,卻偏偏與公主長得像聚至,于是被迫代替她去往敵國和親酷勺。 傳聞我的和親對象是個殘疾皇子,可洞房花燭夜當晚...
    茶點故事閱讀 42,802評論 2 345

推薦閱讀更多精彩內(nèi)容