如何修改mysql 的binlog

MySQL 的 Binlog 记录着 MySQL 数据库的所有变更信息，了解 Binlog 的结构可以帮助我们解析Binlog，甚至对 Binlog 进行一些修改，或者说是“篡改”，例如实现类似于 Oracle 的 flashback 的功能，恢复误删除的记录，把 update 的记录再还原回去等。本文将带您探讨一下这些神奇功能的实现，您会发现比您想象地要简单得多。本文指的 Binlog 是 ROW 模式的 Binlog，这也是 MySQL 8 里的默认模式，STATEMENT 模式因为使用中有很多限制，现在用得越来越少了。

Binlog 由事件（event）组成，请注意是事件（event）不是事务（transaction），一个事务可以包含多个事件。事件描述对数据库的修改内容。

现在我们已经了解了 Binlog 的结构，我们可以试着修改 Binlog 里的数据。例如前面举例的 Binlog 删除了一条记录，我们可以试着把这条记录恢复，Binlog 里面有个删除行（DELETE_ROWS_EVENT）的事件，就是这个事件删除了记录，这个事件和写行（WRITE_ROWS_EVENT）的事件的数据结构是完全一样的，只是删除行事件的类型是 32，写行事件的类型是 30，我们把对应的 Binlog 位置的 32 改成 30 即可把已经删除的记录再插入回去。从前面的 “show binlog events” 里面可看到这个 DELETE_ROWS_EVENT 是从位置 378 开始的，这里的位置就是 Binlog 文件的实际位置（以字节为单位）。从事件（event）的结构里面可以看到 type_code 是在 event 的第 5 个字节，我们写个 Python 小程序把把第383（378+5=383）字节改成 30 即可。当然您也可以用二进制编辑工具来改。

找出 Binlog 中的大事务

由于 ROW 模式的 Binlog 是每一个变更都记录一条日志，因此一个简单的 SQL，在 Binlog 里可能会产生一个巨无霸的事务，例如一个不带 where 的 update 或 delete 语句，修改了全表里面的所有记录，每条记录都在 Binlog 里面记录一次，结果是一个巨大的事务记录。这样的大事务经常是产生麻烦的根源。我的一个客户有一次向我抱怨，一个 Binlog 前滚，滚了两天也没有动静，我把那个 Binlog 解析了一下，发现里面有个事务产生了 1.4G 的记录，修改了 66 万条记录！下面是一个简单的找出 Binlog 中大事务的 Python 小程序，我们知道用 mysqlbinlog 解析的 Binlog，每个事务都是以 BEGIN 开头，以 COMMIT 结束。我们找出 BENGIN 前面的 “# at” 的位置，检查 COMMIT 后面的 “# at” 位置，这两个位置相减即可计算出这个事务的大小，下面是这个 Python 程序的例子。

切割 Binlog 中的大事务

对于大的事务，MySQL 会把它分解成多个事件（注意一个是事务 TRANSACTION，另一个是事件 EVENT），事件的大小由参数 binlog-row-event-max-size 决定，这个参数默认是 8K。因此我们可以把若干个事件切割成一个单独的略小的事务

ROW 模式下，即使我们只更新了一条记录的其中某个字段，也会记录每个字段变更前后的值，这个行为是 binlog_row_image 参数控制的，这个参数有 3 个值，默认为 FULL，也就是记录列的所有修改，即使字段没有发生变更也会记录。这样我们就可以实现类似 Oracle 的 flashback 的功能，我个人估计 MySQL 未来的版本从可能会基于 Binlog 推出这样的功能。

了解了 Binlog 的结构，再加上 Python 这把瑞士军刀，我们还可以实现很多功能，例如我们可以统计哪个表被修改地最多？我们还可以把 Binlog 切割成一段一段的，然后再重组，可以灵活地进行 MySQL 数据库的修改和迁移等工作。

我给你举个例子吧！

MySQL存储过程例子，包含事务，参数，嵌套调用，游标，循环等,阅读MySQL存储过程例子，包含事务，参 数，嵌套调用，游标，循环等,view plaincopy to clipboardprint?drop procedure if exists pro_rep_shadow_rsdelimiter | -------------------------------

view plaincopy to clipboardprint?

drop procedure if exists pro_rep_shadow_rs

delimiter |

----------------------------------

-- rep_shadow_rs

-- 用来处理信息的增加，更新和删除

-- 每次只更新上次以来没有做过的数据

-- 根据不同的标志位

-- 需要一个输出的参数，

-- 如果返回为0，则调用失败，事务回滚

-- 如果返回为1，调用成功，事务提交

--

-- 测试方法

-- call pro_rep_shadow_rs(@rtn)

-- select @rtn

----------------------------------

create procedure pro_rep_shadow_rs(out rtn int)

begin

-- 声明变量，所有的声明必须在非声明的语句前面

declare iLast_rep_sync_id int default -1

declare iMax_rep_sync_id int default -1

-- 如果出现异常，或自动处理并rollback,但不再通知调用方了

-- 如果希望应用获得异常，需要将下面这一句，以及启动事务和提交事务的语句全部去掉

declare exit handler for sqlexception rollback

-- 查找上一次的

select eid into iLast_rep_sync_id from rep_de_proc_log where tbl='rep_shadow_rs'

-- 如果不存在，则增加一行

if iLast_rep_sync_id=-1 then

insert into rep_de_proc_log(rid,eid,tbl) values(0,0,'rep_shadow_rs')

set iLast_rep_sync_id = 0

end if

-- 下一个数字

set iLast_rep_sync_id=iLast_rep_sync_id+1

-- 设置默认的返回值为0：失败

set rtn=0

-- 启动事务

start transaction

-- 查找最大编号

select max(rep_sync_id) into iMax_rep_sync_id from rep_shadow_rs

-- 有新数据

if iMax_rep_sync_id>=iLast_rep_sync_id then

-- 调用

call pro_rep_shadow_rs_do(iLast_rep_sync_id,iMax_rep_sync_id)

-- 更新日志

update rep_de_proc_log set rid=iLast_rep_sync_id,eid=iMax_rep_sync_id where tbl='rep_shadow_rs'

end if

-- 运行没有异常，提交事务

commit

-- 设置返回值为1

set rtn=1

end

|

delimiter

drop procedure if exists pro_rep_shadow_rs_do

delimiter |

---------------------------------

-- 处理指定编号范围内的数据

-- 需要输入2个参数

-- last_rep_sync_id 是编号的最小值

-- max_rep_sync_id 是编号的最大值

-- 无返回值

---------------------------------

create procedure pro_rep_shadow_rs_do(last_rep_sync_id int, max_rep_sync_id int)

begin

declare iRep_operationtype varchar(1)

declare iRep_status varchar(1)

declare iRep_Sync_id int

declare iId int

-- 这个用于处理游标到达最后一行的情况

declare stop int default 0

-- 声明游标

declare cur cursor for select id,Rep_operationtype,iRep_status,rep_sync_id from rep_shadow_rs where rep_sync_id between last_rep_sync_id and max_rep_sync_id

-- 声明游标的异常处理，设置一个终止标记

declare CONTINUE HANDLER FOR SQLSTATE '02000' SET stop=1

-- 打开游标

open cur

-- 读取一行数据到变量

fetch cur into iId,iRep_operationtype,iRep_status,iRep_Sync_id

-- 这个就是判断是否游标已经到达了最后

while stop <>1 do

-- 各种判断

if iRep_operationtype='I' then

insert into rs0811 (id,fnbm) select id,fnbm from rep_shadow_rs where rep_sync_id=iRep_sync_id

elseif iRep_operationtype='U' then

begin

if iRep_status='A' then

insert into rs0811 (id,fnbm) select id,fnbm from rep_shadow_rs where rep_sync_id=iRep_sync_id

elseif iRep_status='B' then

delete from rs0811 where id=iId

end if

end

elseif iRep_operationtype='D' then

delete from rs0811 where id=iId

end if

-- 读取下一行的数据

fetch cur into iId,iRep_operationtype,iRep_status,iRep_Sync_id

end while -- 循环结束

close cur-- 关闭游标

end

|

mysql事件中的参数 ON COMPLETION [NOT] PRESERVE: 定义事件是一次执行还是永久执行，默认为一次执行，即NOT PRESERVE。

如果你像永久执行 ON COMPLETION PRESERVE 就这样

---