canal安裝、與rocketMQ進(jìn)行數(shù)據(jù)同步

一、canal安裝

下載地址:https://github.com/alibaba/canal/releases

image.png

二、修改配置文件,監(jiān)聽(tīng)數(shù)據(jù)庫(kù)

默認(rèn)是在example文件夾返吻,可以修改example文件夾中的instance.properties文件配置。當(dāng)然也可以根據(jù)自己的業(yè)務(wù)在conf路徑下新建一個(gè)文件夾乎婿,比如:test,并將example文件夾中的instance.properties文件復(fù)制到test文件夾下测僵。


image.png

image.png
# 找到配置文件此處位置,設(shè)置成自己要監(jiān)聽(tīng)的數(shù)據(jù)庫(kù)地址
canal.instance.master.address=127.0.0.1:3306
# 找到配置文件此處位置谢翎,配置數(shù)據(jù)庫(kù)用戶(hù)名捍靠、密碼、及數(shù)據(jù)庫(kù)名稱(chēng)森逮。
canal.instance.dbUsername=canal
canal.instance.dbPassword=canal
canal.instance.connectionCharset = UTF-8
canal.instance.defaultDatabaseName = test # test是數(shù)據(jù)庫(kù)名
canal.instance.enableDruid=false
# 找到此處位置榨婆,默認(rèn)是監(jiān)聽(tīng)數(shù)據(jù)庫(kù)下所有的表,可以改成監(jiān)聽(tīng)具體的數(shù)據(jù)表褒侧。
#canal.instance.filter.regex=.*\\..*
canal.instance.filter.regex=test.test_table  # test是數(shù)據(jù)庫(kù)名  test_table是數(shù)據(jù)庫(kù)中表的名稱(chēng)良风,多個(gè)用逗號(hào)隔開(kāi)(test.table1,test.table2)

配置好后,需要修改數(shù)據(jù)庫(kù)的相應(yīng)配置,修改數(shù)據(jù)庫(kù)配置文件my.cnf

log-bin=mysql-bin #添加這一行就ok
binlog-format=ROW #選擇row模式
server_id=1 #配置mysql replaction需要定義闷供,不能和canal的slaveId重復(fù)

配置完成后拖吼,重新啟動(dòng)數(shù)據(jù)庫(kù),并查看这吻;默認(rèn)是不開(kāi)啟的,為OFF


image.png

配置canal用戶(hù)

CREATE USER canal IDENTIFIED BY 'canal';  # 創(chuàng)建“canal”用戶(hù)
GRANT SELECT,REPLICATION SLAVE,REPLICATION CLIENT ON.TO 'canal'@'%'; # 為“canal”用戶(hù)賦予相應(yīng)權(quán)限
FLUSH PRIVILEGES; # 刷新權(quán)限

配置完成篙议,重啟以下mysql服務(wù)即可唾糯。

三、配置rocketMQ

配置rocketMQ鬼贱,將動(dòng)態(tài)監(jiān)聽(tīng)數(shù)據(jù)庫(kù)發(fā)送的數(shù)據(jù)變化移怯,推送至mq中,并對(duì)相應(yīng)業(yè)務(wù)進(jìn)行處理这难。
修改/conf/canal.properties文件

# 找到以下配置舟误,默認(rèn)的是example文件夾,由于根據(jù)業(yè)務(wù)建立了test文件夾姻乓,所以需要改成test
# canal.destinations = example
canal.destinations = test # 可以配置多個(gè)嵌溢,用逗號(hào)隔開(kāi)眯牧,如:example,test
# 配置rocketMQ
rocketmq.producer.group = test-group  # 根據(jù)自己的業(yè)務(wù)進(jìn)行修改
rocketmq.enable.message.trace = false
rocketmq.customized.trace.topic = test_canal_topic # 設(shè)置topic
rocketmq.namespace =
rocketmq.namesrv.addr = 127.0.0.1:9876 # 配置rocketMQ地址
rocketmq.retry.times.when.send.failed = 0
rocketmq.vip.channel.enabled = false
rocketmq.tag = 

配置好rocketMQ后,還需要修改/conf/test/instance.properties文件的topic配置

# 配置mq中的topic
canal.mq.topic=canal_test_topic

四赖草、啟動(dòng)canal

啟動(dòng)/bin/startup.bat即可学少。

五、springboot項(xiàng)目監(jiān)聽(tīng)canal發(fā)送rocketMQ的代碼

springboot中的rocketMQ配置

#rocketmq配置
rocketmq:
  name-server: 127.0.0.1:9876
  producer:
    group: test-group  #這個(gè)需要和canal中/conf/canal.properties文件中的rocketmq.producer.group配置一致

springboot相應(yīng)代碼

# topic 需要和canal中的/conf/test/instance.properties文件中的canal.mq.topic配置一致
# consumerGroup = "consumer-test-canal-group" # 自定義一個(gè)消費(fèi)組即可
# customizedTraceTopic需要和canal中的/conf/canal.properties文件中的rocketmq.customized.trace.topic配置一致
@Component
@RocketMQMessageListener(topic = "canal_test_topic", consumerGroup = "consumer-test-canal-group", customizedTraceTopic = "test_canal_topic")
public class CanalConsumer implements RocketMQListener<String> {

    @Override
    public void onMessage(String msg) {
        System.out.println(msg);
        if (!JSONUtil.isJson(msg)) {
            return;
        }
        JSONObject msgJsonObject = JSONUtil.parseObj(msg);
        String sqlType = msgJsonObject.getStr("type");
        switch (sqlType) {
            case "UPDATE":
            case "INSERT":
            case "DELETE":
                break;
            default:
                System.out.println("不同步的消息類(lèi)型:" + sqlType);
                return;
        }
        System.out.println(msgJsonObject.toStringPretty());
        String table = msgJsonObject.getStr("table");  # 獲取表名
        JSONArray data = msgJsonObject.getJSONArray("data");
        JSONArray pkNames = msgJsonObject.getJSONArray("pkNames");
        System.out.println("表名為:" + msgJsonObject.getStr("table") + ",sql類(lèi)型為:" + sqlType);
        if ("UPDATE".equals(sqlType) || "INSERT".equals(sqlType)) {
          #  根據(jù)自己的業(yè)務(wù)進(jìn)行處理
            for (int i = 0; i < data.size(); i++) {
                JSONObject object = data.getJSONObject(i);
                # 可以根據(jù)序號(hào)及字段獲取相應(yīng)信息
                String key = object.getStr(pkNames.getStr(i), "0");
                String id = object.getStr("id","");
            }
            return;
        }
        if ("DELETE".equals(sqlType)) {
           #  根據(jù)自己的業(yè)務(wù)進(jìn)行處理
            for (int i = 0; i < data.size(); i++) {
                JSONObject object = data.getJSONObject(i);
                String key = object.getStr(pkNames.getStr(i), "0");
            }
        }
    }
}

最后編輯于
?著作權(quán)歸作者所有,轉(zhuǎn)載或內(nèi)容合作請(qǐng)聯(lián)系作者
  • 序言:七十年代末秧骑,一起剝皮案震驚了整個(gè)濱河市版确,隨后出現(xiàn)的幾起案子,更是在濱河造成了極大的恐慌乎折,老刑警劉巖绒疗,帶你破解...
    沈念sama閱讀 218,204評(píng)論 6 506
  • 序言:濱河連續(xù)發(fā)生了三起死亡事件,死亡現(xiàn)場(chǎng)離奇詭異骂澄,居然都是意外死亡吓蘑,警方通過(guò)查閱死者的電腦和手機(jī),發(fā)現(xiàn)死者居然都...
    沈念sama閱讀 93,091評(píng)論 3 395
  • 文/潘曉璐 我一進(jìn)店門(mén)酗洒,熙熙樓的掌柜王于貴愁眉苦臉地迎上來(lái)士修,“玉大人,你說(shuō)我怎么就攤上這事樱衷∑宄埃” “怎么了?”我有些...
    開(kāi)封第一講書(shū)人閱讀 164,548評(píng)論 0 354
  • 文/不壞的土叔 我叫張陵矩桂,是天一觀的道長(zhǎng)沸移。 經(jīng)常有香客問(wèn)我,道長(zhǎng)侄榴,這世上最難降的妖魔是什么雹锣? 我笑而不...
    開(kāi)封第一講書(shū)人閱讀 58,657評(píng)論 1 293
  • 正文 為了忘掉前任,我火速辦了婚禮癞蚕,結(jié)果婚禮上蕊爵,老公的妹妹穿的比我還像新娘。我一直安慰自己桦山,他們只是感情好攒射,可當(dāng)我...
    茶點(diǎn)故事閱讀 67,689評(píng)論 6 392
  • 文/花漫 我一把揭開(kāi)白布。 她就那樣靜靜地躺著恒水,像睡著了一般会放。 火紅的嫁衣襯著肌膚如雪。 梳的紋絲不亂的頭發(fā)上钉凌,一...
    開(kāi)封第一講書(shū)人閱讀 51,554評(píng)論 1 305
  • 那天咧最,我揣著相機(jī)與錄音,去河邊找鬼。 笑死矢沿,一個(gè)胖子當(dāng)著我的面吹牛滥搭,可吹牛的內(nèi)容都是我干的。 我是一名探鬼主播咨察,決...
    沈念sama閱讀 40,302評(píng)論 3 418
  • 文/蒼蘭香墨 我猛地睜開(kāi)眼论熙,長(zhǎng)吁一口氣:“原來(lái)是場(chǎng)噩夢(mèng)啊……” “哼!你這毒婦竟也來(lái)了摄狱?” 一聲冷哼從身側(cè)響起脓诡,我...
    開(kāi)封第一講書(shū)人閱讀 39,216評(píng)論 0 276
  • 序言:老撾萬(wàn)榮一對(duì)情侶失蹤,失蹤者是張志新(化名)和其女友劉穎媒役,沒(méi)想到半個(gè)月后祝谚,有當(dāng)?shù)厝嗽跇?shù)林里發(fā)現(xiàn)了一具尸體,經(jīng)...
    沈念sama閱讀 45,661評(píng)論 1 314
  • 正文 獨(dú)居荒郊野嶺守林人離奇死亡酣衷,尸身上長(zhǎng)有42處帶血的膿包…… 初始之章·張勛 以下內(nèi)容為張勛視角 年9月15日...
    茶點(diǎn)故事閱讀 37,851評(píng)論 3 336
  • 正文 我和宋清朗相戀三年交惯,在試婚紗的時(shí)候發(fā)現(xiàn)自己被綠了。 大學(xué)時(shí)的朋友給我發(fā)了我未婚夫和他白月光在一起吃飯的照片穿仪。...
    茶點(diǎn)故事閱讀 39,977評(píng)論 1 348
  • 序言:一個(gè)原本活蹦亂跳的男人離奇死亡席爽,死狀恐怖,靈堂內(nèi)的尸體忽然破棺而出啊片,到底是詐尸還是另有隱情只锻,我是刑警寧澤,帶...
    沈念sama閱讀 35,697評(píng)論 5 347
  • 正文 年R本政府宣布紫谷,位于F島的核電站齐饮,受9級(jí)特大地震影響,放射性物質(zhì)發(fā)生泄漏笤昨。R本人自食惡果不足惜祖驱,卻給世界環(huán)境...
    茶點(diǎn)故事閱讀 41,306評(píng)論 3 330
  • 文/蒙蒙 一、第九天 我趴在偏房一處隱蔽的房頂上張望瞒窒。 院中可真熱鬧捺僻,春花似錦、人聲如沸崇裁。這莊子的主人今日做“春日...
    開(kāi)封第一講書(shū)人閱讀 31,898評(píng)論 0 22
  • 文/蒼蘭香墨 我抬頭看了看天上的太陽(yáng)寇壳。三九已至,卻和暖如春妻怎,著一層夾襖步出監(jiān)牢的瞬間壳炎,已是汗流浹背。 一陣腳步聲響...
    開(kāi)封第一講書(shū)人閱讀 33,019評(píng)論 1 270
  • 我被黑心中介騙來(lái)泰國(guó)打工, 沒(méi)想到剛下飛機(jī)就差點(diǎn)兒被人妖公主榨干…… 1. 我叫王不留匿辩,地道東北人腰耙。 一個(gè)月前我還...
    沈念sama閱讀 48,138評(píng)論 3 370
  • 正文 我出身青樓,卻偏偏與公主長(zhǎng)得像铲球,于是被迫代替她去往敵國(guó)和親挺庞。 傳聞我的和親對(duì)象是個(gè)殘疾皇子,可洞房花燭夜當(dāng)晚...
    茶點(diǎn)故事閱讀 44,927評(píng)論 2 355

推薦閱讀更多精彩內(nèi)容