使用Kettle工具進(jìn)行增量數(shù)據(jù)同步

增量同步的方式有很多種树酪,我使用的是: 快照表 + 觸發(fā)器
需求:

當(dāng)主庫庫表發(fā)生增刪改時(shí)赘风,從庫庫表與主庫庫表數(shù)據(jù)保持一致髓考。

環(huán)境:
1茅主、Mysql
2舞痰、kettle 7.1

思路:

1、在主庫中诀姚,將需要同步的庫表新建快照表响牛,表結(jié)構(gòu)一致。

#創(chuàng)建同步臨時(shí)表(insert)
DROP TABLE IF EXISTS brch_temp_insert;
CREATE TABLE brch_temp_insert like brch;

#創(chuàng)建同步臨時(shí)表(delete)
DROP TABLE IF EXISTS brch_temp_delete;
CREATE TABLE brch_temp_delete like brch;

#創(chuàng)建同步臨時(shí)表(update)
DROP TABLE IF EXISTS brch_temp_update;
CREATE TABLE brch_temp_update like brch;

2、在主庫中呀打,分別新增庫表的增矢赁、刪、改的觸發(fā)器贬丛。

#創(chuàng)建同步表觸發(fā)器(insert)
DROP TRIGGER IF EXISTS tri_insert_brch;
CREATE TRIGGER tri_insert_brch 
AFTER INSERT ON brch
FOR EACH ROW
BEGIN
     insert into brch_temp_insert
     (  
        ROW_ID,
        BRCH_ID,
        BRCH_NAME
    ) 
    values(
        new.ROW_ID,
        new.BRCH_ID,
        new.BRCH_NAME
    );
END;

#創(chuàng)建同步表觸發(fā)器(delete)
DROP TRIGGER IF EXISTS tri_delete_brch;
CREATE TRIGGER tri_delete_brch 
AFTER delete ON brch
FOR EACH ROW
BEGIN
     insert into brch_temp_delete(
        ROW_ID
    ) 
    values(
        old.ROW_ID
    );
END;

#創(chuàng)建同步表觸發(fā)器(update)
DROP TRIGGER IF EXISTS tri_update_brch;
CREATE TRIGGER tri_update_brch 
AFTER update ON brch
FOR EACH ROW
BEGIN
     insert into brch_temp_update(
        ROW_ID,
        BRCH_ID,
        BRCH_NAME
    ) 
    values(
        new.ROW_ID,
        new.BRCH_ID,
        new.BRCH_NAME
    );
END;

2撩银、新建一個(gè)轉(zhuǎn)換,該轉(zhuǎn)換只針對(duì)一張表的增刪改豺憔。

image

3额获、新建‘表輸入’控件,查詢主庫的快照表

image
image
image

4恭应、新建‘插入/更新’控件咪啡,插入數(shù)據(jù)到從庫的庫表,查詢的關(guān)鍵字要求唯一暮屡。

image
image
image

5、新建‘刪除’控件毅桃,將主庫的快照表中的數(shù)據(jù)刪除褒纲。

image
image
image

注意:主庫的庫表,要新增針對(duì)增钥飞、刪莺掠、改的三張表快照,三張表的步驟同上面的1 - 5 一致读宙。

6彻秆、新建作業(yè)控件

  分別將三個(gè)轉(zhuǎn)換引用進(jìn)來。
image

7结闸、配置發(fā)送郵件服務(wù)

image
image

8唇兑、完成

?著作權(quán)歸作者所有,轉(zhuǎn)載或內(nèi)容合作請(qǐng)聯(lián)系作者
  • 序言:七十年代末,一起剝皮案震驚了整個(gè)濱河市桦锄,隨后出現(xiàn)的幾起案子扎附,更是在濱河造成了極大的恐慌,老刑警劉巖结耀,帶你破解...
    沈念sama閱讀 210,914評(píng)論 6 490
  • 序言:濱河連續(xù)發(fā)生了三起死亡事件留夜,死亡現(xiàn)場(chǎng)離奇詭異,居然都是意外死亡图甜,警方通過查閱死者的電腦和手機(jī)碍粥,發(fā)現(xiàn)死者居然都...
    沈念sama閱讀 89,935評(píng)論 2 383
  • 文/潘曉璐 我一進(jìn)店門,熙熙樓的掌柜王于貴愁眉苦臉地迎上來黑毅,“玉大人嚼摩,你說我怎么就攤上這事。” “怎么了低斋?”我有些...
    開封第一講書人閱讀 156,531評(píng)論 0 345
  • 文/不壞的土叔 我叫張陵蜂厅,是天一觀的道長。 經(jīng)常有香客問我膊畴,道長掘猿,這世上最難降的妖魔是什么? 我笑而不...
    開封第一講書人閱讀 56,309評(píng)論 1 282
  • 正文 為了忘掉前任唇跨,我火速辦了婚禮稠通,結(jié)果婚禮上,老公的妹妹穿的比我還像新娘买猖。我一直安慰自己改橘,他們只是感情好,可當(dāng)我...
    茶點(diǎn)故事閱讀 65,381評(píng)論 5 384
  • 文/花漫 我一把揭開白布玉控。 她就那樣靜靜地躺著飞主,像睡著了一般。 火紅的嫁衣襯著肌膚如雪高诺。 梳的紋絲不亂的頭發(fā)上碌识,一...
    開封第一講書人閱讀 49,730評(píng)論 1 289
  • 那天,我揣著相機(jī)與錄音虱而,去河邊找鬼筏餐。 笑死,一個(gè)胖子當(dāng)著我的面吹牛牡拇,可吹牛的內(nèi)容都是我干的魁瞪。 我是一名探鬼主播,決...
    沈念sama閱讀 38,882評(píng)論 3 404
  • 文/蒼蘭香墨 我猛地睜開眼惠呼,長吁一口氣:“原來是場(chǎng)噩夢(mèng)啊……” “哼导俘!你這毒婦竟也來了?” 一聲冷哼從身側(cè)響起剔蹋,我...
    開封第一講書人閱讀 37,643評(píng)論 0 266
  • 序言:老撾萬榮一對(duì)情侶失蹤趟畏,失蹤者是張志新(化名)和其女友劉穎,沒想到半個(gè)月后滩租,有當(dāng)?shù)厝嗽跇淞掷锇l(fā)現(xiàn)了一具尸體赋秀,經(jīng)...
    沈念sama閱讀 44,095評(píng)論 1 303
  • 正文 獨(dú)居荒郊野嶺守林人離奇死亡,尸身上長有42處帶血的膿包…… 初始之章·張勛 以下內(nèi)容為張勛視角 年9月15日...
    茶點(diǎn)故事閱讀 36,448評(píng)論 2 325
  • 正文 我和宋清朗相戀三年律想,在試婚紗的時(shí)候發(fā)現(xiàn)自己被綠了猎莲。 大學(xué)時(shí)的朋友給我發(fā)了我未婚夫和他白月光在一起吃飯的照片。...
    茶點(diǎn)故事閱讀 38,566評(píng)論 1 339
  • 序言:一個(gè)原本活蹦亂跳的男人離奇死亡技即,死狀恐怖著洼,靈堂內(nèi)的尸體忽然破棺而出,到底是詐尸還是另有隱情,我是刑警寧澤身笤,帶...
    沈念sama閱讀 34,253評(píng)論 4 328
  • 正文 年R本政府宣布豹悬,位于F島的核電站,受9級(jí)特大地震影響液荸,放射性物質(zhì)發(fā)生泄漏瞻佛。R本人自食惡果不足惜,卻給世界環(huán)境...
    茶點(diǎn)故事閱讀 39,829評(píng)論 3 312
  • 文/蒙蒙 一娇钱、第九天 我趴在偏房一處隱蔽的房頂上張望伤柄。 院中可真熱鬧,春花似錦文搂、人聲如沸适刀。這莊子的主人今日做“春日...
    開封第一講書人閱讀 30,715評(píng)論 0 21
  • 文/蒼蘭香墨 我抬頭看了看天上的太陽笔喉。三九已至,卻和暖如春硝皂,著一層夾襖步出監(jiān)牢的瞬間然遏,已是汗流浹背。 一陣腳步聲響...
    開封第一講書人閱讀 31,945評(píng)論 1 264
  • 我被黑心中介騙來泰國打工吧彪, 沒想到剛下飛機(jī)就差點(diǎn)兒被人妖公主榨干…… 1. 我叫王不留,地道東北人丢早。 一個(gè)月前我還...
    沈念sama閱讀 46,248評(píng)論 2 360
  • 正文 我出身青樓姨裸,卻偏偏與公主長得像,于是被迫代替她去往敵國和親怨酝。 傳聞我的和親對(duì)象是個(gè)殘疾皇子傀缩,可洞房花燭夜當(dāng)晚...
    茶點(diǎn)故事閱讀 43,440評(píng)論 2 348

推薦閱讀更多精彩內(nèi)容