binlog 基本認(rèn)識(shí)
MySQL的二進(jìn)制日志可以說是MySQL最重要的日志了舌涨,它記錄了所有的DDL和DML(除了數(shù)據(jù)查詢語句)語句叮喳,以事件形式記錄渡嚣,還包含語句所執(zhí)行的消耗的時(shí)間策吠,MySQL的二進(jìn)制日志是事務(wù)安全型的竹习。
一般來說開啟二進(jìn)制日志大概會(huì)有1%的性能損耗(參見MySQL官方中文手冊 5.1.24版)。二進(jìn)制有兩個(gè)最重要的使用場景:
其一:MySQL Replication在Master端開啟binlog,Mster把它的二進(jìn)制日志傳遞給slaves來達(dá)到master-slave數(shù)據(jù)一致的目的困肩。
其二:自然就是數(shù)據(jù)恢復(fù)了划纽,通過使用mysqlbinlog工具來使恢復(fù)數(shù)據(jù)。
二進(jìn)制日志包括兩類文件:二進(jìn)制日志索引文件(文件名后綴為.index)用于記錄所有的二進(jìn)制文件锌畸,二進(jìn)制日志文件(文件名后綴為.00000*)記錄數(shù)據(jù)庫所有的DDL和DML(除了數(shù)據(jù)查詢語句)語句事件勇劣。
一、開啟binlog日志:
vi編輯打開mysql配置文件
# vi /usr/local/mysql/etc/my.cnf
在[mysqld] 區(qū)塊
設(shè)置/添加 log-bin=mysql-bin 確認(rèn)是打開狀態(tài)(值 mysql-bin 是日志的基本名或前綴名)潭枣;
重啟mysqld服務(wù)使配置生效
# pkill mysqld
# /usr/local/mysql/bin/mysqld_safe --user=mysql &
二比默、也可登錄mysql服務(wù)器,通過mysql的變量配置表盆犁,查看二進(jìn)制日志是否已開啟 單詞:variable[?v?ri?b?l] 變量
登錄服務(wù)器
# /usr/local/mysql/bin/mysql -uroot -p123456
mysql> show variables like 'log_%';
+----------------------------------------+---------------------------------------+
| Variable_name | Value |
+----------------------------------------+---------------------------------------+
| log_bin | ON | ------> ON表示已經(jīng)開啟binlog日志
| log_bin_basename | /usr/local/mysql/data/mysql-bin |
| log_bin_index | /usr/local/mysql/data/mysql-bin.index |
| log_bin_trust_function_creators | OFF |
| log_bin_use_v1_row_events | OFF |
| log_error | /usr/local/mysql/data/martin.err |
| log_output | FILE |
| log_queries_not_using_indexes | OFF |
| log_slave_updates | OFF |
| log_slow_admin_statements | OFF |
| log_slow_slave_statements | OFF |
| log_throttle_queries_not_using_indexes | 0 |
| log_warnings | 1 |
+----------------------------------------+---------------------------------------+
三退敦、常用binlog日志操作命令
1.查看所有binlog日志列表
mysql> show master logs;
2.查看master狀態(tài),即最后(最新)一個(gè)binlog日志的編號名稱蚣抗,及其最后一個(gè)操作事件pos結(jié)束點(diǎn)(Position)值
mysql> show master status;
3.刷新log日志,自此刻開始產(chǎn)生一個(gè)新編號的binlog日志文件
mysql> flush logs;
注:每當(dāng)mysqld服務(wù)重啟時(shí)瓮下,會(huì)自動(dòng)執(zhí)行此命令翰铡,刷新binlog日志;在mysqldump備份數(shù)據(jù)時(shí)加 -F 選項(xiàng)也會(huì)刷新binlog日志讽坏;
4.重置(清空)所有binlog日志
mysql> reset master;
四锭魔、查看某個(gè)binlog日志內(nèi)容,常用有兩種方式:
1.使用mysqlbinlog自帶查看命令法:
注: binlog是二進(jìn)制文件路呜,普通文件查看器cat more vi等都無法打開迷捧,必須使用自帶的 mysqlbinlog 命令查看
binlog日志與數(shù)據(jù)庫文件在同目錄中(我的環(huán)境配置安裝是選擇在/usr/local/mysql/data中)
在MySQL5.5以下版本使用mysqlbinlog命令時(shí)如果報(bào)錯(cuò),就加上 “--no-defaults”選項(xiàng)
# /usr/local/mysql/bin/mysqlbinlog /usr/local/mysql/data/mysql-bin.000013
下面截取一個(gè)片段分析:
...............................................................................
# at 552
#131128 17:50:46 server id 1 end_log_pos 665 Query thread_id=11 exec_time=0 error_code=0 ---->執(zhí)行時(shí)間:17:50:46胀葱;pos點(diǎn):665
SET TIMESTAMP=1385632246/*!*/;
update zyyshop.stu set name='李四' where id=4 ---->執(zhí)行的SQL
/*!*/;
# at 665
#131128 17:50:46 server id 1 end_log_pos 692 Xid = 1454 ---->執(zhí)行時(shí)間:17:50:46漠秋;pos點(diǎn):692
...............................................................................
注: server id 1 數(shù)據(jù)庫主機(jī)的服務(wù)號;
end_log_pos 665 pos點(diǎn)
thread_id=11 線程號
2.上面這種辦法讀取出binlog日志的全文內(nèi)容較多抵屿,不容易分辨查看pos點(diǎn)信息庆锦,這里介紹一種更為方便的查詢命令:
mysql> show binlog events [IN 'log_name'] [FROM pos] [LIMIT [offset,] row_count];
選項(xiàng)解析:
IN 'log_name' 指定要查詢的binlog文件名(不指定就是第一個(gè)binlog文件)
FROM pos 指定從哪個(gè)pos起始點(diǎn)開始查起(不指定就是從整個(gè)文件首個(gè)pos點(diǎn)開始算)
LIMIT [offset,] 偏移量(不指定就是0)
row_count 查詢總條數(shù)(不指定就是所有行)
截取部分查詢結(jié)果:
*************************** 20. row ***************************
Log_name: mysql-bin.000021 ----------------------------------------------> 查詢的binlog日志文件名
Pos: 11197 ----------------------------------------------------------> pos起始點(diǎn):
Event_type: Query ----------------------------------------------------------> 事件類型:Query
Server_id: 1 --------------------------------------------------------------> 標(biāo)識(shí)是由哪臺(tái)服務(wù)器執(zhí)行的
End_log_pos: 11308 ----------------------------------------------------------> pos結(jié)束點(diǎn):11308(即:下行的pos起始點(diǎn))
Info: use `zyyshop`; INSERT INTO `team2` VALUES (0,345,'asdf8er5') ---> 執(zhí)行的sql語句
*************************** 21. row ***************************
Log_name: mysql-bin.000021
Pos: 11308 ----------------------------------------------------------> pos起始點(diǎn):11308(即:上行的pos結(jié)束點(diǎn))
Event_type: Query
Server_id: 1
End_log_pos: 11417
Info: use `zyyshop`; /*!40000 ALTER TABLE `team2` ENABLE KEYS */
*************************** 22. row ***************************
Log_name: mysql-bin.000021
Pos: 11417
Event_type: Query
Server_id: 1
End_log_pos: 11510
Info: use `zyyshop`; DROP TABLE IF EXISTS `type`
這條語句可以將指定的binlog日志文件,分成有效事件行的方式返回轧葛,并可使用limit指定pos點(diǎn)的起始偏移搂抒,查詢條數(shù);
A.查詢第一個(gè)(最早)的binlog日志:
mysql> show binlog events\G;
B.指定查詢 mysql-bin.000021 這個(gè)文件:
mysql> show binlog events in 'mysql-bin.000021'\G;
C.指定查詢 mysql-bin.000021 這個(gè)文件尿扯,從pos點(diǎn):8224開始查起:
mysql> show binlog events in 'mysql-bin.000021' from 8224\G;
D.指定查詢 mysql-bin.000021 這個(gè)文件求晶,從pos點(diǎn):8224開始查起,查詢10條
mysql> show binlog events in 'mysql-bin.000021' from 8224 limit 10\G;
E.指定查詢 mysql-bin.000021 這個(gè)文件衷笋,從pos點(diǎn):8224開始查起芳杏,偏移2行,查詢10條
mysql> show binlog events in 'mysql-bin.000021' from 8224 limit 2,10\G;
五、恢復(fù)binlog日志實(shí)驗(yàn)(zyyshop是數(shù)據(jù)庫)
1.假設(shè)現(xiàn)在是凌晨4:00蚜锨,我的計(jì)劃任務(wù)開始執(zhí)行一次完整的數(shù)據(jù)庫備份:
將zyyshop數(shù)據(jù)庫備份到 /root/BAK.zyyshop.sql 文件中:
# /usr/local/mysql/bin/mysqldump -uroot -p123456 -lF --log-error=/root/myDump.err -B zyyshop > /root/BAK.zyyshop.sql
......
大約過了若干分鐘档插,備份完成了,我不用擔(dān)心數(shù)據(jù)丟失了亚再,因?yàn)槲矣袀浞萘斯牛赂聗~~
由于我使用了-F選項(xiàng),當(dāng)備份工作剛開始時(shí)系統(tǒng)會(huì)刷新log日志氛悬,產(chǎn)生新的binlog日志來記錄備份之后的數(shù)據(jù)庫“增刪改”操作则剃,查看一下:
mysql> show master status;
+------------------+----------+--------------+------------------+
| File | Position | Binlog_Do_DB | Binlog_Ignore_DB |
+------------------+----------+--------------+------------------+
| mysql-bin.000023 | 120 | | |
+------------------+----------+--------------+------------------+
也就是說, mysql-bin.000023 是用來記錄4:00之后對數(shù)據(jù)庫的所有“增刪改”操作如捅。
2.早9:00上班了棍现,業(yè)務(wù)的需求會(huì)對數(shù)據(jù)庫進(jìn)行各種“增刪改”操作~~~~~~~
@ 比如:創(chuàng)建一個(gè)學(xué)生表并插入、修改了數(shù)據(jù)等等:
CREATE TABLE IF NOT EXISTS `tt` (
`id` int(10) unsigned NOT NULL AUTO_INCREMENT,
`name` varchar(16) NOT NULL,
`sex` enum('m','w') NOT NULL DEFAULT 'm',
`age` tinyint(3) unsigned NOT NULL,
`classid` char(6) DEFAULT NULL,
PRIMARY KEY (`id`)
) ENGINE=InnoDB DEFAULT CHARSET=utf8;
導(dǎo)入實(shí)驗(yàn)數(shù)據(jù)
mysql> insert into zyyshop.tt(`name`,`sex`,`age`,`classid`) values('yiyi','w',20,'cls1'),('xiaoer','m',22,'cls3'),('zhangsan','w',21,'cls5'),('lisi','m',20,'cls4'),('wangwu','w',26,'cls6');
查看數(shù)據(jù)
mysql> select * from zyyshop.tt;
+----+----------+-----+-----+---------+
| id | name | sex | age | classid |
+----+----------+-----+-----+---------+
| 1 | yiyi | w | 20 | cls1 |
| 2 | xiaoer | m | 22 | cls3 |
| 3 | zhangsan | w | 21 | cls5 |
| 4 | lisi | m | 20 | cls4 |
| 5 | wangwu | w | 26 | cls6 |
+----+----------+-----+-----+---------+
中午時(shí)分又執(zhí)行了修改數(shù)據(jù)操作
mysql> update zyyshop.tt set name='李四' where id=4;
mysql> update zyyshop.tt set name='小二' where id=2;
修改后的結(jié)果:
mysql> select * from zyyshop.tt;
+----+----------+-----+-----+---------+
| id | name | sex | age | classid |
+----+----------+-----+-----+---------+
| 1 | yiyi | w | 20 | cls1 |
| 2 | 小二 | m | 22 | cls3 |
| 3 | zhangsan | w | 21 | cls5 |
| 4 | 李四 | m | 20 | cls4 |
| 5 | wangwu | w | 26 | cls6 |
+----+----------+-----+-----+---------+
假設(shè)此時(shí)是下午18:00镜遣,莫名地執(zhí)行了一條悲催的SQL語句己肮,整個(gè)數(shù)據(jù)庫都沒了:
mysql> drop database zyyshop;
3.此刻杯具了,別慌悲关!先仔細(xì)查看最后一個(gè)binlog日志谎僻,并記錄下關(guān)鍵的pos點(diǎn),到底是哪個(gè)pos點(diǎn)的操作導(dǎo)致了數(shù)據(jù)庫的破壞(通常在最后幾步)寓辱;
備份一下最后一個(gè)binlog日志文件:
# ll /usr/local/mysql/data | grep mysql-bin
# cp -v /usr/local/mysql/data/mysql-bin.000023 /root/
此時(shí)執(zhí)行一次刷新日志索引操作艘绍,重新開始新的binlog日志記錄文件,理論說 mysql-bin.000023 這個(gè)文件不會(huì)再有后續(xù)寫入了(便于我們分析原因及查找pos點(diǎn))秫筏,以后所有數(shù)據(jù)庫操作都會(huì)寫入到下一個(gè)日志文件诱鞠;
mysql> flush logs;
mysql> show master status;
4.讀取binlog日志,分析問題
方式一:使用mysqlbinlog讀取binlog日志:
# /usr/local/mysql/bin/mysqlbinlog /usr/local/mysql/data/mysql-bin.000023
方式二:登錄服務(wù)器这敬,并查看(推薦):
mysql> show binlog events in 'mysql-bin.000023';
以下為末尾片段:
+------------------+------+------------+-----------+-------------+------------------------------------------------------------+
| Log_name | Pos | Event_type | Server_id | End_log_pos | Info |
+------------------+------+------------+-----------+-------------+------------------------------------------------------------+
| mysql-bin.000023 | 922 | Xid | 1 | 953 | COMMIT /* xid=3820 */ |
| mysql-bin.000023 | 953 | Query | 1 | 1038 | BEGIN |
| mysql-bin.000023 | 1038 | Query | 1 | 1164 | use `zyyshop`; update zyyshop.tt set name='李四' where id=4|
| mysql-bin.000023 | 1164 | Xid | 1 | 1195 | COMMIT /* xid=3822 */ |
| mysql-bin.000023 | 1195 | Query | 1 | 1280 | BEGIN |
| mysql-bin.000023 | 1280 | Query | 1 | 1406 | use `zyyshop`; update zyyshop.tt set name='小二' where id=2|
| mysql-bin.000023 | 1406 | Xid | 1 | 1437 | COMMIT /* xid=3823 */ |
| mysql-bin.000023 | 1437 | Query | 1 | 1538 | drop database zyyshop |
+------------------+------+------------+-----------+-------------+------------------------------------------------------------+
通過分析航夺,造成數(shù)據(jù)庫破壞的pos點(diǎn)區(qū)間是介于 1437--1538 之間,只要恢復(fù)到1437前就可鹅颊。
5.現(xiàn)在把凌晨備份的數(shù)據(jù)恢復(fù):
# /usr/local/mysql/bin/mysql -uroot -p123456 -v < /root/BAK.zyyshop.sql;
注: 至此截至當(dāng)日凌晨(4:00)前的備份數(shù)據(jù)都恢復(fù)了敷存。
但今天一整天(4:00--18:00)的數(shù)據(jù)腫么辦呢?就得從前文提到的 mysql-bin.000023 新日志做文章了......
6.從binlog日志恢復(fù)數(shù)據(jù)
恢復(fù)語法格式:
# mysqlbinlog mysql-bin.0000xx | mysql -u用戶名 -p密碼 數(shù)據(jù)庫名
常用選項(xiàng):
--start-position=953 起始pos點(diǎn)
--stop-position=1437 結(jié)束pos點(diǎn)
--start-datetime="2013-11-29 13:18:54" 起始時(shí)間點(diǎn)
--stop-datetime="2013-11-29 13:21:53" 結(jié)束時(shí)間點(diǎn)
--database=zyyshop 指定只恢復(fù)zyyshop數(shù)據(jù)庫(一臺(tái)主機(jī)上往往有多個(gè)數(shù)據(jù)庫堪伍,只限本地log日志)
不常用選項(xiàng):
-u --user=name Connect to the remote server as username.連接到遠(yuǎn)程主機(jī)的用戶名
-p --password[=name] Password to connect to remote server.連接到遠(yuǎn)程主機(jī)的密碼
-h --host=name Get the binlog from server.從遠(yuǎn)程主機(jī)上獲取binlog日志
--read-from-remote-server Read binary logs from a MySQL server.從某個(gè)MySQL服務(wù)器上讀取binlog日志
小結(jié):實(shí)際是將讀出的binlog日志內(nèi)容锚烦,通過管道符傳遞給mysql命令。這些命令帝雇、文件盡量寫成絕對路徑涮俄;
A.完全恢復(fù)(本例不靠譜,因?yàn)樽詈竽菞l drop database zyyshop 也在日志里尸闸,必須想辦法把這條破壞語句排除掉彻亲,做部分恢復(fù))
# /usr/local/mysql/bin/mysqlbinlog /usr/local/mysql/data/mysql-bin.000021 | /usr/local/mysql/bin/mysql -uroot -p123456 -v zyyshop
B.指定pos結(jié)束點(diǎn)恢復(fù)(部分恢復(fù)):
@ --stop-position=953 pos結(jié)束點(diǎn)
注:此pos結(jié)束點(diǎn)介于“導(dǎo)入實(shí)驗(yàn)數(shù)據(jù)”與更新“name='李四'”之間孕锄,這樣可以恢復(fù)到更改“name='李四'”之前的“導(dǎo)入測試數(shù)據(jù)”
# /usr/local/mysql/bin/mysqlbinlog --stop-position=953 --database=zyyshop /usr/local/mysql/data/mysql-bin.000023 | /usr/local/mysql/bin/mysql -uroot -p123456 -v zyyshop
在另一終端登錄查看結(jié)果(成功恢復(fù)了):
mysql> select * from zyyshop.tt;
+----+----------+-----+-----+---------+
| id | name | sex | age | classid |
+----+----------+-----+-----+---------+
| 1 | yiyi | w | 20 | cls1 |
| 2 | xiaoer | m | 22 | cls3 |
| 3 | zhangsan | w | 21 | cls5 |
| 4 | lisi | m | 20 | cls4 |
| 5 | wangwu | w | 26 | cls6 |
+----+----------+-----+-----+---------+
C.指定pso點(diǎn)區(qū)間恢復(fù)(部分恢復(fù)):
更新 name='李四' 這條數(shù)據(jù),日志區(qū)間是Pos[1038] --> End_log_pos[1164]苞尝,按事務(wù)區(qū)間是:Pos[953] --> End_log_pos[1195]畸肆;
更新 name='小二' 這條數(shù)據(jù),日志區(qū)間是Pos[1280] --> End_log_pos[1406]宙址,按事務(wù)區(qū)間是:Pos[1195] --> End_log_pos[1437]轴脐;
c1.單獨(dú)恢復(fù) name='李四' 這步操作,可這樣:
# /usr/local/mysql/bin/mysqlbinlog --start-position=1038 --stop-position=1164 --database=zyyshop /usr/local/mysql/data/mysql-bin.000023 | /usr/local/mysql/bin/mysql -uroot -p123456 -v zyyshop
也可以按事務(wù)區(qū)間單獨(dú)恢復(fù)抡砂,如下:
# /usr/local/mysql/bin/mysqlbinlog --start-position=953 --stop-position=1195 --database=zyyshop /usr/local/mysql/data/mysql-bin.000023 | /usr/local/mysql/bin/mysql -uroot -p123456 -v zyyshop
c2.單獨(dú)恢復(fù) name='小二' 這步操作大咱,可這樣:
# /usr/local/mysql/bin/mysqlbinlog --start-position=1280 --stop-position=1406 --database=zyyshop /usr/local/mysql/data/mysql-bin.000023 | /usr/local/mysql/bin/mysql -uroot -p123456 -v zyyshop
也可以按事務(wù)區(qū)間單獨(dú)恢復(fù),如下:
# /usr/local/mysql/bin/mysqlbinlog --start-position=1195 --stop-position=1437 --database=zyyshop /usr/local/mysql/data/mysql-bin.000023 | /usr/local/mysql/bin/mysql -uroot -p123456 -v zyyshop
c3.將 name='李四'注益、name='小二' 多步操作一起恢復(fù)碴巾,需要按事務(wù)區(qū)間,可這樣:
# /usr/local/mysql/bin/mysqlbinlog --start-position=953 --stop-position=1437 --database=zyyshop /usr/local/mysql/data/mysql-bin.000023 | /usr/local/mysql/bin/mysql -uroot -p123456 -v zyyshop
D.在另一終端登錄查看目前結(jié)果(兩名稱也恢復(fù)了):
mysql> select * from zyyshop.tt;
+----+----------+-----+-----+---------+
| id | name | sex | age | classid |
+----+----------+-----+-----+---------+
| 1 | yiyi | w | 20 | cls1 |
| 2 | 小二 | m | 22 | cls3 |
| 3 | zhangsan | w | 21 | cls5 |
| 4 | 李四 | m | 20 | cls4 |
| 5 | wangwu | w | 26 | cls6 |
+----+----------+-----+-----+---------+
E.也可指定時(shí)間區(qū)間恢復(fù)(部分恢復(fù)):除了用pos點(diǎn)的辦法進(jìn)行恢復(fù)丑搔,也可以通過指定時(shí)間區(qū)間進(jìn)行恢復(fù)厦瓢,按時(shí)間恢復(fù)需要用mysqlbinlog命令讀取binlog日志內(nèi)容,找時(shí)間節(jié)點(diǎn)。
比如,我把剛恢復(fù)的tt表刪除掉下翎,再用時(shí)間區(qū)間點(diǎn)恢復(fù)
mysql> drop table tt;
@ --start-datetime="2013-11-29 13:18:54" 起始時(shí)間點(diǎn)
@ --stop-datetime="2013-11-29 13:21:53" 結(jié)束時(shí)間點(diǎn)
# /usr/local/mysql/bin/mysqlbinlog --start-datetime="2013-11-29 13:18:54" --stop-datetime="2013-11-29 13:21:53" --database=zyyshop /usr/local/mysql/data/mysql-bin.000021 | /usr/local/mysql/bin/mysql -uroot -p123456 -v zyyshop
總結(jié):所謂恢復(fù)召夹,就是讓mysql將保存在binlog日志中指定段落區(qū)間的sql語句逐個(gè)重新執(zhí)行一次而已。