canal概述：
canal是應(yīng)阿里巴巴存在杭州和美國的雙機(jī)房部署伺糠，存在跨機(jī)房同步的業(yè)務(wù)需求而提出的。
早期斥季，阿里巴巴B2B公司因為存在杭州和美國雙機(jī)房部署训桶，存在跨機(jī)房同步的業(yè)務(wù)需求累驮。不過早期的數(shù)據(jù)庫同步業(yè)務(wù)，主要是基于trigger的方式獲取增量變更舵揭，不過從2010年開始谤专，阿里系公司開始逐步的嘗試基于數(shù)據(jù)庫的日志解析，獲取增量變更進(jìn)行同步午绳，由此衍生出了增量訂閱&消費(fèi)的業(yè)務(wù)置侍，從此開啟了一段新紀(jì)元。ps. 目前內(nèi)部使用的同步拦焚，已經(jīng)支持mysql5.x和oracle部分版本的日志解析
能解決什么問題蜡坊？
模擬slave數(shù)據(jù)庫協(xié)議動態(tài)解析mysql binlog信息(<a href="http://www.reibang.com/p/bcd01f163bae">slave配置可參考</a>)，拿到變更的數(shù)據(jù)信息赎败，可以做到主動得知數(shù)據(jù)庫的變更信息秕衙，而不需要某一方主動類似消息通知才能得知變更信息。
架構(gòu)圖：
<h4>1螟够、搭建canal server</h4>
a灾梦、 前提是虛擬機(jī)上面以前裝有mysql數(shù)據(jù)庫(<a href="http://www.reibang.com/p/674f56b2fe56">快速安裝</a>)
b、修改/etc/my.cnf
[mysqld]
log-bin=mysql-bin #因為我的master之前配置過讀寫分析所以不需要處理
binlog-format=ROW #選擇row模式
server_id=1 #一般情況下不需要修改
c妓笙、新建查詢用戶權(quán)限給canal服務(wù)
<pre>
CREATE USER canal IDENTIFIED BY 'canal';
GRANT SELECT, REPLICATION SLAVE, REPLICATION CLIENT ON . TO 'canal'@'%';
FLUSH PRIVILEGES;
</pre>
d若河、download最新的canal應(yīng)用包(<a >下載地址</a>)
e、解壓且配置canal/conf/example/instance.properties
<pre>
//mysql serverId
canal.instance.mysql.slaveId = 1234 //default value
position info寞宫，需要改成自己的數(shù)據(jù)庫信息
canal.instance.master.address = 127.0.0.1:3306 //自己的mysql虛擬機(jī)ip
canal.instance.master.journal.name =
canal.instance.master.position =
canal.instance.master.timestamp =
canal.instance.standby.address =
canal.instance.standby.journal.name =
canal.instance.standby.position =
canal.instance.standby.timestamp =
// username/password萧福，需要改成自己的數(shù)據(jù)庫信息
canal.instance.dbUsername = canal //剛授權(quán)的用戶名
canal.instance.dbPassword = canal //剛授權(quán)的密碼
canal.instance.defaultDatabaseName = canal_test //需要關(guān)注的數(shù)據(jù)庫，按實際配置
canal.instance.connectionCharset = UTF-8
// table regex
canal.instance.filter.regex = .\..
</pre>
f辈赋、執(zhí)行bin/下面的./startup.sh 鲫忍，結(jié)束命令為./stop.sh
g、查看啟動log地址為vi canal/log/canal/canal.log
<pre>
2016-12-03 22:18:08.852 [main] INFO com.alibaba.otter.canal.deployer.CanalLauncher - ## start the canal server.
2016-12-03 22:18:09.091 [main] INFO com.alibaba.otter.canal.deployer.CanalController - ## start the canal server[192.168.30.128:11111]
2016-12-03 22:18:10.259 [main] INFO com.alibaba.otter.canal.deployer.CanalLauncher - ## the canal server is running now ......
</pre>
<h4>2钥屈、搭建canal client code</h4>
因為我下載的最新的包,所以下載了相同的版本號的client
<pre>
<dependency>
<groupId>com.alibaba.otter</groupId>
<artifactId>canal.client</artifactId>
<version>1.0.22</version>
</dependency>
</pre>
上個demo:
<pre>
public class ClientSample {
public static void main(String args[]) {
// 創(chuàng)建鏈接
CanalConnector connector = CanalConnectors.newSingleConnector(new InetSocketAddress("192.168.30.128",11111), "example", "", "");
int batchSize = 1000;
int emptyCount = 0;
try {
connector.connect();
connector.subscribe(".\..");
connector.rollback();
int totalEmtryCount = 1200;
while (emptyCount < totalEmtryCount) {
Message message = connector.getWithoutAck(batchSize); // 獲取指定數(shù)量的數(shù)據(jù)
long batchId = message.getId();
int size = message.getEntries().size();
if (batchId == -1 || size == 0) {
emptyCount++;
System.out.println("empty count : " + emptyCount);
try {
Thread.sleep(1000);
} catch (InterruptedException e) {
e.printStackTrace();
}
} else {
emptyCount = 0;
printEntry(message.getEntries());
}
connector.ack(batchId); // 提交確認(rèn)
}
} finally {
connector.disconnect();
}
}
private static void printEntry(List<Entry> entrys) {
for (Entry entry : entrys) {
if (entry.getEntryType() == EntryType.TRANSACTIONBEGIN || entry.getEntryType() == EntryType.TRANSACTIONEND) {
continue;
}
RowChange rowChage = null;
try {
rowChage = RowChange.parseFrom(entry.getStoreValue());
} catch (Exception e) {
//TODO
}
EventType eventType = rowChage.getEventType();
System.out.println(String.format("binlog[%s:%s] , name[%s,%s] , eventType : %s",
entry.getHeader().getLogfileName(), entry.getHeader().getLogfileOffset(),
entry.getHeader().getSchemaName(), entry.getHeader().getTableName(),
eventType));
for (RowData rowData : rowChage.getRowDatasList()) {
if (eventType == EventType.DELETE) {
printColumn(rowData.getBeforeColumnsList());
} else if (eventType == EventType.INSERT) {
printColumn(rowData.getAfterColumnsList());
} else {
System.out.println("-------> before");
printColumn(rowData.getBeforeColumnsList());
System.out.println("-------> after");
printColumn(rowData.getAfterColumnsList());
}
}
}
}
private static void printColumn(List<Column> columns) {
for (Column column : columns) {
System.out.println(column.getName() + " : " + column.getValue() + " update=" + column.getUpdated());
}
}
}
</pre>
mysql 插入一條數(shù)據(jù)：
<pre>
mysql> insert into user_test values(10,"candadal_test12a",25);
Query OK, 1 row affected (0.00 sec)
</pre>
<pre>
控制臺輸出為：
binlog[mysql-bin.000007:497] , name[test_copy,user_test] , eventType : INSERT
id : 10 update=true
name : candadal_test12a update=true
age : 25 update=true
</pre>
client和server執(zhí)行可能會遇到的問題：
1悟民、server安裝的時候確保安裝了jdk且啟動canal的時候保證有權(quán)限訪問jdk
2、binlog-format=ROW #選擇row模式 需要在mysql上面執(zhí)行 show variables like "binlog_format" 確保輸出是"ROW"格式而不是STATEMENT格式篷就，否則在rowChage.getRowDatasList()的時候返回的是null射亏，因為默認(rèn)的STATEMENT只是會把操作的sql記錄下來真正的列對應(yīng)的值沒有記錄下來
3、數(shù)據(jù)庫重啟已有的binlog信息會被全部重新?lián)У絚lient解析
解析返回的數(shù)據(jù)格式是：[EntryProtocol.proto]
<pre>
Entry
Header
logfileName [binlog文件名]
logfileOffset [binlog position]
executeTime [發(fā)生的變更]
schemaName
tableName
eventType [insert/update/delete類型]
entryType [事務(wù)頭BEGIN/事務(wù)尾END/數(shù)據(jù)ROWDATA]
storeValue [byte數(shù)據(jù),可展開竭业，對應(yīng)的類型為RowChange]
RowChange
isDdl [是否是ddl變更操作智润，比如create table/drop table]
sql [具體的ddl sql]
rowDatas [具體insert/update/delete的變更數(shù)據(jù)，可為多條未辆，1個binlog event事件可對應(yīng)多條變更窟绷，比如批處理]
beforeColumns [Column類型的數(shù)組]
afterColumns [Column類型的數(shù)組]
Column
index
sqlType [jdbc type]
name [column name]
isKey [是否為主鍵]
updated [是否發(fā)生過變更]
isNull [值是否為null]
value [具體的內(nèi)容，注意為文本]
</pre>
<h4>3咐柜、后續(xù)思考</h4>
1兼蜈、canal的純原理可參考:http://m.blog.csdn.net/article/details?id=51842697
2攘残、因為canal是阿里巴巴開源的，自己國人寫的所以bug會有一小部分饭尝，所以可以實時關(guān)注github情況：https://github.com/alibaba/canal/issues
3肯腕、如果我們使用canal來說的話肯定不是只是用來監(jiān)聽某個單一的數(shù)據(jù)庫献宫，我們一般是傾向于把它做成可配置的中間服務(wù)钥平，達(dá)到最大使用
