confluent jdbc connector - mysql

JDBC Source Connector

Quickstart

數據庫環(huán)境準備

CREATE DATABASE connector;
USE connector;
CREATE TABLE `from_source` (
  `fdsid` int(11) NOT NULL AUTO_INCREMENT,
  `dsid` int(11) DEFAULT NULL,
  `from` int(11) DEFAULT NULL,
  `stype` int(11) DEFAULT NULL,
  PRIMARY KEY (`fdsid`)
) ENGINE=InnoDB AUTO_INCREMENT=6 DEFAULT CHARSET=utf8mb4;
INSERT INTO from_source VALUES(1, 2, 1, 1);
INSERT INTO from_source VALUES(2, 2, 1, 2);
INSERT INTO from_source VALUES(3, 2, 1, 5);
INSERT INTO from_source VALUES(4, 2, 1, 6);

MySQL JDBC 驅動準備

測試環(huán)境使用的mysql版本信息如下:


mysql-info.png

在mysql官網上選擇合適的驅動下載进倍,測試中下載的是mysql-connector-java-5.1.42.tar.gz背捌。
將此驅動拷貝到$CONFLUENT_PATH/share/java/kafka-connect-jdbc目錄下毡庆,使用解壓命令解壓

tar -xzvf mysql-connector-java-5.1.42.tar.gz
cd mysql-connector-java-5.1.42
cp mysql-connector-java-5.1.42-bin.jar ../

最終的目的就是將mysql-connector-java-5.1.42-bin.jar放在$CONFLUENT_PATH/share/java/kafka-connect-jdbc目錄下毅否,這樣confluecnt connector在啟動是就可以找到mysql的jdbc驅動了

配置文件準備

單機環(huán)境下運行connector的命令如下:

//INFO Usage: ConnectStandalone worker.properties connector1.properties [connector2.properties ...] (org.apache.kafka.connect.cli.ConnectStandalone:61)
bin/connect-standalone etc/schema-registry/connect-avro-standalone.properties etc/kafka-connect-jdbc/mysql-source.properties

其中:connect-avro-standalone.properties可使用默認配置螟加;
mysql-source.properties的內容如下:

# tasks to create:
name=test-mysql-jdbc-autoincrement
connector.class=io.confluent.connect.jdbc.JdbcSourceConnector
tasks.max=1
# a table called 'users' will be written to the topic 'test-mysql-jdbc-users'.
connection.url=jdbc:mysql://172.24.8.114:3306/connector?user=$USER&password=$PASSWORD
mode=incrementing
incrementing.column.name=fdsid
topic.prefix=test-mysql-jdbc-

其中捆探,$USER,$PASSWORD是訪問mysql數據庫的用戶名和地址黍图。
參考:
JDBC驅動下載地址
MySQL Connector配置參考

從MySQL導入數據到Kafka中

啟動Connector

 bin/connect-standalone etc/schema-registry/connect-avro-standalone.properties etc/kafka-connect-jdbc/mysql-source.properties

驗證產生了相應的topic

bin/kafka-topics --zookeeper localhost:2181 --list

topic列表中會包含:test-mysql-jdbc-from_source

驗證topic中的數據

bin/kafka-avro-console-consumer --new-consumer --bootstrap-server localhost:9092 --topic test-mysql-jdbc-from_source --from-beginning

此時,可以獲取topic:test-mysql-jdbc-from_source中的所有數據搔弄。

驗證可增量從MySQL中導入數據

向from_source表中添加一個數據

insert into from_source values(7, 2, 1, 1)

相應的消費者會接收到插入到from_source表中的數據顾犹。
總參考:
JDBC Source Connector 官網

最后編輯于
?著作權歸作者所有,轉載或內容合作請聯系作者
  • 序言:七十年代末蹦渣,一起剝皮案震驚了整個濱河市认臊,隨后出現的幾起案子,更是在濱河造成了極大的恐慌剧腻,老刑警劉巖书在,帶你破解...
    沈念sama閱讀 222,104評論 6 515
  • 序言:濱河連續(xù)發(fā)生了三起死亡事件,死亡現場離奇詭異栈源,居然都是意外死亡,警方通過查閱死者的電腦和手機艰亮,發(fā)現死者居然都...
    沈念sama閱讀 94,816評論 3 399
  • 文/潘曉璐 我一進店門垃杖,熙熙樓的掌柜王于貴愁眉苦臉地迎上來调俘,“玉大人彩库,你說我怎么就攤上這事宛渐】妫” “怎么了鳞仙?”我有些...
    開封第一講書人閱讀 168,697評論 0 360
  • 文/不壞的土叔 我叫張陵,是天一觀的道長棍好。 經常有香客問我,道長借笙,這世上最難降的妖魔是什么扒怖? 我笑而不...
    開封第一講書人閱讀 59,836評論 1 298
  • 正文 為了忘掉前任业稼,我火速辦了婚禮,結果婚禮上低散,老公的妹妹穿的比我還像新娘俯邓。我一直安慰自己谦纱,他們只是感情好,可當我...
    茶點故事閱讀 68,851評論 6 397
  • 文/花漫 我一把揭開白布跨嘉。 她就那樣靜靜地躺著川慌,像睡著了一般祠乃。 火紅的嫁衣襯著肌膚如雪。 梳的紋絲不亂的頭發(fā)上琴拧,一...
    開封第一講書人閱讀 52,441評論 1 310
  • 那天,我揣著相機與錄音,去河邊找鬼短荐。 笑死,一個胖子當著我的面吹牛糠排,可吹牛的內容都是我干的廓俭。 我是一名探鬼主播,決...
    沈念sama閱讀 40,992評論 3 421
  • 文/蒼蘭香墨 我猛地睜開眼竿报,長吁一口氣:“原來是場噩夢啊……” “哼!你這毒婦竟也來了?” 一聲冷哼從身側響起济瓢,我...
    開封第一講書人閱讀 39,899評論 0 276
  • 序言:老撾萬榮一對情侶失蹤举反,失蹤者是張志新(化名)和其女友劉穎火鼻,沒想到半個月后粗蔚,有當地人在樹林里發(fā)現了一具尸體,經...
    沈念sama閱讀 46,457評論 1 318
  • 正文 獨居荒郊野嶺守林人離奇死亡鲤看,尸身上長有42處帶血的膿包…… 初始之章·張勛 以下內容為張勛視角 年9月15日...
    茶點故事閱讀 38,529評論 3 341
  • 正文 我和宋清朗相戀三年,在試婚紗的時候發(fā)現自己被綠了。 大學時的朋友給我發(fā)了我未婚夫和他白月光在一起吃飯的照片。...
    茶點故事閱讀 40,664評論 1 352
  • 序言:一個原本活蹦亂跳的男人離奇死亡,死狀恐怖,靈堂內的尸體忽然破棺而出吵聪,到底是詐尸還是另有隱情,我是刑警寧澤佃乘,帶...
    沈念sama閱讀 36,346評論 5 350
  • 正文 年R本政府宣布程帕,位于F島的核電站讲逛,受9級特大地震影響,放射性物質發(fā)生泄漏来涨。R本人自食惡果不足惜,卻給世界環(huán)境...
    茶點故事閱讀 42,025評論 3 334
  • 文/蒙蒙 一社裆、第九天 我趴在偏房一處隱蔽的房頂上張望标沪。 院中可真熱鬧违寞,春花似錦彰阴、人聲如沸。這莊子的主人今日做“春日...
    開封第一講書人閱讀 32,511評論 0 24
  • 文/蒼蘭香墨 我抬頭看了看天上的太陽。三九已至淑倾,卻和暖如春,著一層夾襖步出監(jiān)牢的瞬間,已是汗流浹背。 一陣腳步聲響...
    開封第一講書人閱讀 33,611評論 1 272
  • 我被黑心中介騙來泰國打工疑枯, 沒想到剛下飛機就差點兒被人妖公主榨干…… 1. 我叫王不留,地道東北人具钥。 一個月前我還...
    沈念sama閱讀 49,081評論 3 377
  • 正文 我出身青樓,卻偏偏與公主長得像,于是被迫代替她去往敵國和親。 傳聞我的和親對象是個殘疾皇子恋追,可洞房花燭夜當晚...
    茶點故事閱讀 45,675評論 2 359

推薦閱讀更多精彩內容

  • Spring Cloud為開發(fā)人員提供了快速構建分布式系統(tǒng)中一些常見模式的工具(例如配置管理撕彤,服務發(fā)現蚀狰,斷路器扮授,智...
    卡卡羅2017閱讀 134,707評論 18 139
  • Kafka官網:http://kafka.apache.org/入門1.1 介紹Kafka? 是一個分布式流處理系...
    it_zzy閱讀 3,901評論 3 53
  • 發(fā)行說明 - Kafka - 版本1.0.0 以下是Kafka 1.0.0發(fā)行版中解決的JIRA問題的摘要掌呜。有關該...
    全能程序猿閱讀 2,866評論 2 7
  • 【每日一談心】:QQ兑宇,來來來粱坤,隨性派畫家咱倆談談心,你覺得在身上站玄、地板上枚驻、墻上、門上株旷、爸爸的床上繪畫有什么不同嗎?...
    674e09b5464a閱讀 379評論 0 0
  • 距離第一次遇見蘇晴已有十年了。 十年過去了锉矢,我仍記得心中那砰然而動的感覺,仿佛她從不曾離去一樣沽损。時隔多年灯节,每當我回...
    二非_閱讀 1,068評論 2 39